128GB DDR4跑35B大模型!90分钟就烧坏一根、9天后第二根又告急
(来源:快科技)
快科技9月30日消息,海外用户Future_Fuel_8425分享了一段自己本地跑大模型的经历,其在一台搭载128GB DDR4 ECC内存的工作站上运行35B参数大模型Ornith-1.5-35B-A3B,仅90分钟后就烧坏了一根DDR4内存条,8至9天后第二根也开始报错。
该用户使用的是2019年款ThinkStation P920,配备双路至强处理器和128GB DDR4 ECC内存(16根8GB内存条),显卡为RTX 5070 Ti 16GB。
此前半年该用户一直运行20B及以下的小模型,全部装在显存中,即使长时间高负载运行也没出过问题。
这次因数据库任务需要更大模型,切换到35B的Ornith-1.5后,模型部分溢出到系统内存,90分钟后系统崩溃,日志显示第8插槽的内存条ECC错误堆积,拔掉该内存条后恢复正常。
没想到继续重度使用8至9天后,日志显示另一根内存条也即将失效。
用户强调温度不是问题,CPU从未超过80°C,GPU很少超过65°C,还配备了辅助散热,所有内存条均为同一批次匹配条,推测只是老化严重,经不住长时间高强度的连续读取。
不过用户只提到了CPU和GPU温度,并未展示内存温度数据,消费级内存本就不是为长时间连续顺序读取设计的,DDR4的老化和持续高负载叠加,加上内存条本身散热条件有限,很可能是内存损坏的真实原因。

相关推荐
128GB DDR4跑35B大模型!90分钟就烧坏一根、9天后第二根又告急
一根DDR5内存对比两根DDR5内存 到底哪个强?
DDR4 vs DDR5,区别在哪?该如何选择?
开历史的倒车了!DDR4内存,又原地复活了?
小米告急,雷军不愿等待
微信“瘦身”之后,128GB的手机依然没得救
产业互联网平台的商业模型:“根花叶果”的树状中枢系统 | 超级观点
买游戏本的注意 快看DDR5内存是不是一条
DDR4价格飙升,一个月涨了一倍
电脑主机特别烫怎么办,电脑会不会被烧坏?
网址: 128GB DDR4跑35B大模型!90分钟就烧坏一根、9天后第二根又告急 https://www.xishuta.cn/newsview153871.html
推荐科技快讯
- 1问界商标转让释放信号:赛力斯 95792
- 2报告:抖音海外版下载量突破1 25736
- 3人类唯一的出路:变成人工智能 25175
- 4人类唯一的出路: 变成人工智 24611
- 5移动办公如何高效?谷歌研究了 24309
- 6华为 nova14深度评测: 13155
- 7滴滴出行被投诉价格操纵,网约 11888
- 82023年起,银行存取款迎来 10774
- 9五一来了,大数据杀熟又想来, 9794
- 10手机中存在一个监听开关,你关 9519
