没有GPU照样跑大模型！阿里5nm RISC-V芯片完成历史首秀：30 token/s

（来源：快科技）

快科技8月19日消息，阿里巴巴达摩院于2026年3月发布的RISC-V旗舰CPU玄铁C950，近日成功原生运行通义千问3.8-27B大模型。这是RISC-V架构芯片首次在不依赖GPU、无需模拟层的情况下，直接运行270亿参数级别的AI模型。

玄铁C950采用台积电5nm工艺制造，是一颗64位服务器级RISC-V处理器。芯片集成64个计算核心，每8核一组通过高速AMBA CHI总线互联，主频最高3.2GHz。芯片内部直接集成了矩阵加速引擎与向量加速引擎，专为AI推理负载优化。

该芯片采用8指令译码宽度和16级流水线设计，访存带宽较上一代玄铁C920提升4倍以上。单核通用性能在SPECint2006基准测试中突破70分，刷新全球RISC-V CPU性能纪录。

在玄铁C950上运行通义千问3.8-27B模型时，解码速度达到30 token/s，首Token延迟控制在1.9秒以内。

相比之下，在传统GPU方案上运行270亿参数模型通常需要16GB至24GB显存。玄铁C950仅靠CPU加片上加速引擎即可完成推理，无需外接独立显卡。

与采用x86或ARM架构的芯片不同，RISC-V的开源特性让阿里巴巴无需支付高昂的授权费用。阿里巴巴同时控制着千问模型家族、云计算基础设施和玄铁芯片架构。

阿里巴巴从芯片设计到模型推理的全链条自主可控，意味着未来模型算子可根据硬件特性重新设计，后续芯片也能依据生产数据定制指令集。

相关推荐

RISC-V芯片公司赛昉科技完成新一轮战投，投资方百度正加速布局芯片｜硅基世界
对话季宇：大模型非必须在GPU跑，CPU内存带宽已足够
新方向！RISC-V芯片狂飙，万亿国产替代风口引爆！建议收藏！！！
5nm 芯片之争，还要继续比“跑分”吗？
GPU芯片新技术出现，中国厂商值得借鉴
RISC-V，开源能反抗芯片封锁么？
“传说”中的5nm芯片
Token太贵，中国开源模型一夜之间霸榜了
AMD的GPU跑AI模型终于Yes了？PK英伟达H100不带怕的
独家对话LeapFive创始人江朝晖：高端RISC-V能解决芯片自主可控吗？｜硅基世界

网址: 没有GPU照样跑大模型！阿里5nm RISC-V芯片完成历史首秀：30 token/s https://www.xishuta.cn/newsview152654.html