文章总结: 文章测试了DeepSeek-R1的1.5b、7b、8b、14b和32b模型解决一道四年级数学题的能力。本地部署因GPU散热问题失败,改用GPU云主机后,1.5b、7b、8b、14b模型均计算错误,32b模型耗时420秒得到正确结果但回答不扣题。文章指出模型加载时间差异大,并推荐使用云主机进行测试。 综合评分: 73 文章分类: AI安全,安全工具,技术标准
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
原创
衡水铁头哥 衡水铁头哥
铁军哥
2025年2月21日 07:45 北京
在小说阅读器读本章
去阅读
我们前面介绍了DeepSeek的本地安装(离线文件分享了,快来抄作业,本地部署一个DeepSeek个人小助理),碰巧我还有一块Tesla P40的GPU(清华大模型ChatGLM3在本地Tesla P40上也运行起来了),显存大小是24 GB(23040 MB),理论上最高可以运行32b版本的模型。
既然如此,那我们不妨测试一下1.5b、7b、8b、14b和32b这5个版本的运行效果。测试很简单,我们首先在本地加载好这5个模型(帮你省20块!仅需2条命令即可通过Ollama本地部署DeepSeek-R1模型)。
然后,依次运行这5个模型,模型跑起来之后,问他下面这个数学问题。
“甲、乙、丙三人的钱数各不相同,甲最多,他拿出一些钱给乙和丙,使乙和丙的钱数都比原来增加了2倍,结果乙的钱最多;接着乙拿出一些钱给甲和丙,使甲和丙的钱数各增加了2倍,结果丙的钱最多;最后丙又拿出一些钱给甲和乙,使他们的钱数和增加了2倍,结果三人的钱数一样多。如果他们三人共有81元,那么三人原来分别有多少钱?”
其实这个问题倒不是很难,是一道小学四年级的计算题;但是这道题里面还有文字游戏,需要模型能够正常理解“增加了2倍”的含义,然后再做数学运算。
我们首先用腾讯元宝的满血模型测试一下DeepSeek的思考过程。
满血模型思考用时52秒,对“增加了两倍”的语文理解没问题,后面的计算基本就不会出错了,我们记录一下结果:甲原有55元,乙原有19元,丙原有7元。
接下来我们在本地运行看一下,先说结论吧,本地运行除了考虑GPU的显存大小之外,还需要充分考虑GPU的散热问题。
在运行1.5b版本时,运算速度非常快,但结果错误。
之后在运行7b版本时,在运算过程中GPU异常停止,掉卡了,重启才能再次识别到。
重启之后我又运行了8b版本,结果在运算过程中出现GPU过热,导致系统蓝屏。
再次重启,然后运行14b版本,因为基础条件判断错误,导致一直在执行错误计算,查看GPU状态,温度已经升高至94℃,直接中止计算,手工拦截死机。
等温度降到40℃时,我又跑了一下32b版本,结果温度极速升高,不到三分钟的时间又死机了。
看到这里,本地部署的DeepSeek测试貌似已经失败了,原因竟然是散热问题。
那我们换成GPU云主机呢?以腾讯云为例,搭载Tesla P40的GPU云主机在按量付费计费模式下,挂载100 GB系统盘,也只要15.19元/小时,买一台继续测。
环境部署完成之后,模型运行就没有问题,整个过程中GPU的温度都没有超过50℃,还是很稳定的。
1.5b模型的测试过程如下:
已关注
关注
重播 分享 赞
关闭
观看更多
更多
退出全屏
切换到竖屏全屏退出全屏
铁军哥已关注
分享视频
,时长02:13
0/0
00:00/02:13
切换到横屏模式
继续播放
[ ]
进度条,百分之0
播放
00:00
/
02:13
02:13
倍速
全屏
倍速播放中
0.5倍 0.75倍 1.0倍 1.5倍 2.0倍
超清 流畅
继续观看
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
观看更多
原创
,
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
铁军哥已关注
分享点赞在看
已同步到看一看写下你的评论
视频详情
显存占用1.7 GB,计算耗时200秒,看一下计算结果,已经跟题目对应不上了。
7b模型的测试过程如下:
已关注
关注
重播 分享 赞
关闭
观看更多
更多
退出全屏
切换到竖屏全屏退出全屏
铁军哥已关注
分享视频
,时长02:13
0/0
00:00/02:13
切换到横屏模式
继续播放
[ ]
进度条,百分之0
播放
00:00
/
02:13
02:13
倍速
全屏
倍速播放中
0.5倍 0.75倍 1.0倍 1.5倍 2.0倍
超清 流畅
继续观看
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
观看更多
原创
,
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
铁军哥已关注
分享点赞在看
已同步到看一看写下你的评论
视频详情
显存占用5.4 GB,计算耗时270秒,看一下计算结果,他已经把我给带到题目里了,即便如此,他还是计算失败了,甚至怀疑了题目有问题。
8b模型的测试过程如下:
已关注
关注
重播 分享 赞
关闭
观看更多
更多
退出全屏
切换到竖屏全屏退出全屏
铁军哥已关注
分享视频
,时长01:47
0/0
00:00/01:47
切换到横屏模式
继续播放
[ ]
进度条,百分之0
播放
00:00
/
01:47
01:47
倍速
全屏
倍速播放中
0.5倍 0.75倍 1.0倍 1.5倍 2.0倍
超清 流畅
继续观看
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
观看更多
原创
,
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
铁军哥已关注
分享点赞在看
已同步到看一看写下你的评论
视频详情
显存占用6.2 GB,经过140秒的计算,他也是认为问题无解。
14b模型的测试过程如下:
已关注
关注
重播 分享 赞
关闭
观看更多
更多
退出全屏
切换到竖屏全屏退出全屏
铁军哥已关注
分享视频
,时长02:08
0/0
00:00/02:08
切换到横屏模式
继续播放
[ ]
进度条,百分之0
播放
00:00
/
02:08
02:08
倍速
全屏
倍速播放中
0.5倍 0.75倍 1.0倍 1.5倍 2.0倍
超清 流畅
继续观看
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
观看更多
原创
,
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
铁军哥已关注
分享点赞在看
已同步到看一看写下你的评论
视频详情
显存占用10.6 GB,经过137秒的计算,他给出了一个计算结果,但是结果错误。
最后是32b模型的测试过程:
已关注
关注
重播 分享 赞
关闭
观看更多
更多
退出全屏
切换到竖屏全屏退出全屏
铁军哥已关注
分享视频
,时长02:29
0/0
00:00/02:29
切换到横屏模式
继续播放
[ ]
进度条,百分之0
播放
00:00
/
02:29
02:29
倍速
全屏
倍速播放中
0.5倍 0.75倍 1.0倍 1.5倍 2.0倍
超清 流畅
继续观看
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
观看更多
原创
,
一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!
铁军哥已关注
分享点赞在看
已同步到看一看写下你的评论
视频详情
显存占用21 GB,经过420秒的计算,他得到了正确的计算结果,但是回答不太扣题,甲乙丙三人怎么最后只剩我了?
相信大家在看测试过程的视频中也能发现,加载不同规格模型的时间存在明显差异,1.5b模型的加载时间(大约2秒)和32b模型的加载时间(大约2分钟)差了将近60倍,这是因为要从磁盘读取模型文件,而云主机的读取速率稍微低一些,大概是150MB左右,比起本地使用NVME存储的3000MB,又有了天壤之别。
***推荐阅读***
哪怕用笔记本的4070显卡运行DeepSeek,都要比128核的CPU快得多!
帮你省20块!仅需2条命令即可通过Ollama本地部署DeepSeek-R1模型
成了!Tesla M4+Windows 10 + Anaconda + CUDA 11.8 + cuDNN + Python 3.11
一个小游戏里的数学问题,难倒了所有的人工智能:ChatGPT、DeepSeek、豆包、通义千问、文心一言
离线文件分享了,快来抄作业,本地部署一个DeepSeek个人小助理
Ubuntu使用Tesla P4配置Anaconda+CUDA+PyTorch
Ubuntu磁盘空间不足或配置错误时,如何操作扩容?
Ubuntu安装、配置、操作、测评MySQL数据库全体验
当你买了一台Linux云主机,应该如何测试主机性能?
没有图形界面,如何快速部署一个Ubuntu 24.10的Server虚拟机
清华大模型ChatGLM3在本地Tesla P40上也运行起来了
一起学习几个简单的Python算法实现
用轻量应用服务器的注意了,0.5GB内存的规格请谨慎使用
免责声明:
本文所载程序、技术方法仅面向合法合规的安全研究与教学场景,旨在提升网络安全防护能力,具有明确的技术研究属性。
任何单位或个人未经授权,将本文内容用于攻击、破坏等非法用途的,由此引发的全部法律责任、民事赔偿及连带责任,均由行为人独立承担,本站不承担任何连带责任。
本站内容均为技术交流与知识分享目的发布,若存在版权侵权或其他异议,请通过邮件联系处理,具体联系方式可点击页面上方的联系我。
本文转载自:铁军哥 衡水铁头哥 衡水铁头哥《一道四年级数学题,DeepSeek-R1的32b以下模型全军覆没,视频为证!》
版权声明
本站仅做备份收录,仅供研究与教学参考之用。
读者将信息用于其他用途的,全部法律及连带责任由读者自行承担,本站不承担任何责任。










评论