一颗大模型芯片，藏着 Momenta 三年前的判断

从模型获得的经验，将继续写入下一代芯片。

文丨沈行

大模型公司正在深入芯片。

OpenAI、Anthropic 等长期锁定了巨额外部算力，但仍然渴望定制推理芯片。过去，模型部署更多围绕通用芯片适配；现在，大模型迈向万亿参数，计算成本变高，软件公司想更早参与硬件定义。既控制长期成本，也想让芯片贴合自家模型。

汽车更早面临相似的问题，但限制更多。数据中心可以增加服务器和散热，而汽车既要给电池、座舱留空间，又要控制整车能耗、成本和散热，理论上无限大的车端算力并不现实。

这也是过去几年国内新势力车企陆续自研智驾芯片的背景。最近，这条路上出现了一个不同的参与者。

10 月 29 日，XHEART（新芯航途）发布大模型芯片 X7 Ultra，大模型算力达 700 TOPS 。XHEART 与 Momenta 关系紧密：其前身脱胎于 Momenta 的芯片设计项目。

成立之初，它就能直接接触 Momenta 已经量产的模型以及算法团队对下一代模型的判断。

2023 年 XHEART 新芯航途成立时，曾是 OPPO 芯片公司哲库高管的李宗霖出任 CEO。李宗霖说，当时外部融资环境不好，XHEART 的造芯 “只有一次机会”，一条路是做通用的芯片架构，另一条是押注大模型。

三年后，大模型变成炙热全球的投资共识，XHEART 也获得了更多资本支持。XHEART 先后获得尚颀资本、顺为资本、真格基金、蔚来资本、深创投、IDG 资本等机构投资；最新一轮战略融资中，资方包括中金雷诺、奇瑞、上汽、长鑫科技等，累计融资近 50 亿元。

关注度和钱变多后，造芯本身没有因此变简单。一颗芯片从定义到真正装进量产车，仍然要走过设计、制造和整车验证。

给几年后的大模型造一颗芯片

一颗车规芯片从设计到量产通常需要数年，而智驾模型的大版本可以按月更新给用户，迭代速度更快。2023 年开始定义 X7 Ultra 时，Momenta 和 XHEART 面临的众多问题之一就是：今天设计的一颗芯片，能否跟得上几年后的模型。

他们有几个判断：模型会越来越大且集中，芯⽚架构需要为这种集中做好准备；Transformer 仍会是主要架构。

传统的智驾方案里，感知、预测、规划等任务由多个小模型分别完成；端到端模型出现以后，越来越多任务在统一的模型或网络里完成。

模型越集中，芯片内部要搬运的数据也越多。李宗霖在接受媒体群访时说，如果芯片设计没有针对大模型的特性调整，那么数据就会在芯片上反复搬运，芯片需要花大量时间等待数据，性能跟着下滑。同时，数据搬运的过程中，会产生很大功耗，从而增加端侧域控和整个系统的散热负担。

图灵奖得主 Jack Dongarra 在发布会 圆桌对谈中也提到，30 年前计算机最昂贵的资源是浮点运算，今天浮点计算已经相对充裕，越来越关键的资源是数据搬运。对车端芯片而言，峰值算力仍然重要，但还要看这些算力能否在功耗、成本和响应时间的约束下真正被用起来。

这是 X7 Ultra 选择超大核 NPU 的原因。NPU 是智驾芯片里负责神经网络的主力计算单元，也是车企、芯片公司做架构差异化的重点。

发布会上，李宗霖把传统小核 NPU 的协作比作 “人分散在不同办公室，资料不断来回传递，超大核 NPU 则能尽量把紧密协作的人放进同一个办公室”。

按照 XHEART 的设计，原本发生在多个小 NPU 之间、百 GB/s 级的数据交换，被更多放到超大 NPU 内部，以 TB/s 级速度完成；同时增加更大的多级缓存，让计算过程中频繁使用的数据尽量留在芯片内部，不必反复去外部内存读取。李宗霖把这个目标概括为，“让计算少等待，让数据少绕路”。

超大核只是其中一部分。早期 NPU 更多是围绕卷积神经网络设计的。Transformer 成为主要模型架构以后，模型里出现了更多过去 NPU 并不擅长处理的计算。这些计算如果只能临时交给 CPU 等其他单元，就意味着数据还要在不同处理器之间来回切换。于是，XHEART 针对 Transformer 中使用频繁、耗时较大的部分计算加入了专门的硬件加速单元。

此外，XHEART 还重构了 AI ⼯具链，计算步骤的中间结果不必每完成一步都写回外部内存、下一步再重新读取。

按照 XHEART 公布的测试数据，在量产智驾模型上，X7 Ultra 的 NPU 计算利用率达到 98.7%；相比其所称的 “行业旗舰产品”，内存带宽消耗下降 80%，能效提高 100%。

官方表示，X7 Ultra 的 700 TOPS 大模型算力基于真实量产智驾模型评测，模型部署到芯片时通常会通过降低计算精度来节省算力，XHEART 要求优化后的模型输出与原始 FP32 模型保持 99.99% 以上的相似度。相比实验室基准测试，这种评测方式更接近量产场景：模型结构不能随意调整，计算精度和驾驶体验也不能因性能优化而打折。

Momenta CEO 曹旭东称，基于 X7 Ultra 的 Momenta 最新世界模型 R7 Ultra，其模型参数规模扩大了 5-10 倍，安全性能提升 5-10 倍以上。

当前，X7 Ultra 主要针对城市 NOA 等场景；同时，基于两颗 X7 系列芯片构建的 L3/L4 级自动驾驶计算平台，官方称已经获得多个车型定点。

XHEART 还试图把从 Momenta 模型中获得的经验继续写进下一代芯片。曹旭东在发布会上判断，要实现规模化 L4，未来智驾模型可能至少需要 10B、甚至达到 100B 参数。按照他的说法，如果继续依赖更通用的计算芯片，要同时满足车端的功耗、车规可靠性和成本会越来越困难。他把这三项约束称为 “通用芯片的不可能三角”。

而 XHEART 下一代芯片 X9 的大模型算力计划提升至 3000 TOPS、内存带宽提升至 700GB/s，围绕更大的世界模型需求而打造。这枚芯片将在 2027 年发布。

一颗新芯片，怎样更快装入量产车

按照流程，一颗新芯片回片之后，算法团队要重新适配，工具链要调，模型要跑通，域控要集成，车企还要做大量验证。“使用通用芯片时，3-6 个月跑通、跑稳、跑对已经不错，有的甚至要 6-12 个月。”Momenta CEO 曹旭东在圆桌中说。

而 X7 回片当天，团队用了不到 24 小时完成芯片点亮，主要数据通路打通。几天以后第一辆测试车就可以开上路。李宗霖指出，这个适配速度，得益于团队把部分量产工作往前挪。

李宗霖在媒体群访时说，架构选型阶段，团队内部对不同路线有过很大分歧。不同方案对应不同的数据流结构，不能只靠纸面讨论。为此，XHEART 基于 Momenta 的智驾真实量产模型做了性能建模和全芯片仿真，而通常等回片以后才能暴露的问题，有机会在这个阶段被发现。

“芯片项目越往后，人力和资金投入越高，前期架构如果判断错，后面的代价会迅速放大，所以前期的架构性能建模必须万分审慎。” 李宗霖在群访中说。

三年前，这颗芯片还只是一个设想。台积电副总经理陈平回忆，李宗霖重新创业时，曾和曹旭东一起找到他，讲 “大模型定义芯片”，也讲未来的 L3、L4。他说，如果换个人来讲故事，他是态度存疑的，因为在那时候听起来 “很像科幻片”。但台积电后来决定提供先进工艺支持和服务。

陈平还提到，车规芯片比消费电子需要更长时间积累可靠性和量产数据，设计端也要与制造工艺配合。未来 3000-4000 TOPS 的芯片，如果要兼顾功耗和有限的芯片面积，他判断需要进一步使用 3 纳米等更先进的工艺。

上汽大众也很早就参与进来。上汽集团总裁贾健旭在发布会上回忆，双方最早讨论新一代智驾方案时，合作的重点还是 Momenta 的智驾软件。谈到未来产品，他主动问起曹旭东芯片战略，后者告诉他，芯片已经在准备，并反问大众敢不敢用。贾健旭的回答是，“就这么干。”

后来，上汽大众成为 X7 系列首个量产客户。芯片还没回片时，双方就已经开始设计域控，把芯片与车企选择的其他器件提前做系统集成。

Momenta 已有的客户基础的确给了 XHEART 现成入口。前者的智驾方案已搭载超过 120 款车型，手中还有超 240 款车型定点。

今年 2 月，X7 系列开始量产。按照 XHEART 公布的数据，目前已有 10 款车型量产，累计出货超过 20 万颗，另有超过 40 款车型获得定点。

李宗霖在群访中说，两家公司在项目上会深度协同，但商业上 “各卖各的”，芯片和算法最终由车企分别决定。目前 X7 除了运行 Momenta 的模型，也已经有车企把自己的自研算法部署在这颗芯片上。

Momenta 为 XHEART 提供了理解未来模型演进的窗口，也帮助它更快进入第一批量产项目。作为独立芯片公司，XHEART 更长远的机会，在于将这些经验转化为服务更多客户、适配不同算法的产品能力。

题图来源：XHEART 新芯航途

相关推荐

一颗大模型芯片，藏着 Momenta 三年前的判断
Momenta CEO曹旭东：大模型定义芯片 才有可能实现规模化L4
为大模型定制一颗芯片？
对话 Momenta 曹旭东：超越智驾的摩尔定律
Momenta IPO 后专访曹旭东：聪明人如何下笨功夫
加速分化：关于大模型走势的十个判断
在智驾这条赛道上，Momenta正在超越华为？
曹旭东首次公开第三个洞察：大模型定义芯片
Momenta上市：600 亿市值、三年亏92亿与物理AI
车展访谈丨Momenta曹旭东：中国智驾企业或收缩到2-3家

网址: 一颗大模型芯片，藏着 Momenta 三年前的判断 https://www.xishuta.cn/newsview154608.html