TMT观察网

大模型定义芯片:XHEART发布X7 Ultra,释放10倍模型参数观点

“让大模型定义芯片,让芯片承载大模型的下一次进化。”

10月29日,XHEART新芯航途CEO李宗霖在苏州举行的发布会上,用这句话概括了公司的技术方向。当天,XHEART正式发布大模型芯片X7 Ultra,以700 TOPS大模型算力、六大产品优势,将“大模型定义芯片”的理念转化为产品能力,并携手产业伙伴展示量产成果、公布下一代芯片X9的研发目标。

从模型适配芯片,到大模型定义芯片

智能驾驶正从多个小模型分工协作,走向端到端大模型。模型架构的变化,对芯片提出了新的要求:算力能否在真实量产模型中充分发挥,架构能否跟上模型迭代,能否在有限的能耗与散热条件下支撑更强的智能。

2023年创业之初,XHEART便确立了“大模型定义芯片”的技术路线:从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转。团队从芯片定义阶段就与算法团队共同研究模型架构和关键算子,为未来几年的模型演进提前做好准备。

这一思路也贯穿性能评价。X7 Ultra的700 TOPS大模型算力,基于真实

量产智驾大模型评测,并以量化部署后模型输出与训练后FP32浮点模型的相似度达到99.99%以上为约束,让芯片优化直接面向量产要求与驾驶体验。

X7Ultra六大产品优势,释放大模型潜能

围绕大模型对计算、精度、带宽和系统协同的需求,X7 Ultra形成六大产品优势。

第一,专为大模型设计的超大核NPU。顺应模型计算集中化趋势,将传统小核之间百GB/s级的数据交互,聚合至超大核内部TB/s级的高速互联,实现带宽数量级提升。同时,为关键算子配置高精度专用加速引擎,让计算与数据交互更高效,让算子执行又快又准。

第二,硬件并行度解锁。通过底层软硬协同,让更多计算单元同时工作,并使计算与权重加载并行,减少等待,充分释放硬件能力。基于量产智驾大模型实测,X7 Ultra NPU计算利用率达到98.7%。

第三,AI工具链重构。通过整网级融合,对整个模型的计算任务统一编排与优化,减少中间结果反复读写外部内存。结合全新NPU架构与硬件并行能力,X7 Ultra释放700 TOPS大模型算力,内存带宽消耗较行业旗舰产品下降80%,能效提升100%。

第四,中国首发量产Armv9车规级CPU。承担复杂控制与系统调度,提升多核协作能力,让整颗芯片高效协同,支撑持续演进的智驾系统。

第五,深度异构计算。通过专用计算单元实现本地任务、本地处理,激光雷达处理带宽最高达2000万点/秒,传感器预处理稳定性提升100%,为系统及时、稳定响应提供支撑。

第六,软硬兼备的安全能力。X7 Ultra满足ISO 26262 ASIL-B功能安全要求,内置MCU通过ASIL-D认证,同时以高效算力与模型迭代空间支撑行驶安全,为智驾系统系好安全带。

这六项能力来自同一个起点:先理解大模型,再设计芯片。通过架构与工具链协同创新,X7 Ultra支持可部署模型参数量实现10倍提升,让更强的模型能力走进量产汽车。

量产交付,打造最快的大模型芯片初创公司

“大模型定义芯片”的技术路线,正在接受规模量产的检验。从公司成立到芯片量产,XHEART用了两年。

首颗X7芯片回片后,不到24小时完成点亮,主要数据通路全部打通;第17天,芯片、底层软件与智驾模型实现整车闭环,在真实道路上接受白天、夜晚及暴雨等环境检验,随后向客户和合作伙伴开放体验。

快速上车之后,是与客户共同完成量产交付。XHEART围绕X7系列提供经过充分验证的解决方案参考设计,并开展域控级PreDV测试,帮助客户降低开发难度、提升项目推进效率。

截至发布会,X7系列已量产8个月,累计出货超过20万颗,搭载10款量产车型,获得超过40款车型订单。基于双X7的L3/L4计算平台也已获得多个车型项目定点,从辅助驾驶向更高等级自动驾驶拓展。

携手产业伙伴,深化软硬协同

“大模型定义芯片”的背后,是XHEART与产业伙伴对技术方向的共同判断。发布会上,Momenta CEO曹旭东首次公开分享公司的第三个洞察:“大模型定义芯片。”

这一判断形成于2022年底,并由Momenta与XHEART共同付诸行动。曹旭东认为,大模型定义的芯片,相比通用芯片,性能能够提升10倍。而实现规模化L4,需要百亿至千亿参数模型。如何在车端成本、功耗和可靠性约束下承载这样的模型,要求双方从模型需求出发,协同设计芯片。

即将发布的R7 Ultra,展现了这一协同的最新成果。基于X7 Ultra的支撑,R7 Ultra的模型参数规模扩大5-10倍,安全性能提升5-10倍以上,推动世界模型从“理解世界”走向“推演世界”。

曹旭东表示,大模型芯片正在加速智驾摩尔定律。2022年至2026年,智驾能力每两年提升十倍,推动城市NOA从早期探索走向应用引爆点与加速普及。面向未来,推动这一规律迈向每年十倍提升, 关键是 “大模型定义芯片”。他判断,L3和L4有望于2028年迎来重要引爆点,并在2030年走向规模化落地。

要让模型需求真正进入芯片架构,协同必须从设计之初开始。在圆桌论坛上,图灵奖得主Jack Dongarra教授表示,让算法、软件与芯片团队在设计定型前紧密协作,是面向大模型时代,更加行之有效的研发方式。他指出,XHEART改善了芯片内部及芯片之间的数据搬运效率,这是软硬协同优化的重要方向。

从协同设计走向规模量产,先进制造是重要支撑。台积电副总经理陈平博士表示,先进工艺通过持续提升性能、能效与集成度,为大模型提供计算基础。台积电已为X7 Ultra提供工艺支持,并表示将持续以先进工艺支持XHEART创新:“我们的工艺已经准备好了。”

面向下一代更大规模的模型,XHEART公布X9的核心研发目标:3000 TOPS大模型算力、700GB/s单芯片内存带宽,计划于2027年推出。通过计算与访存能力同步提升,X9将继续围绕下一代世界模型推进软硬协同设计。

从X7 Ultra到X9,XHEART将持续以“大模型定义芯片”为技术主线,与Momenta及产业伙伴深度协同,推动更强的模型走进更多量产产品,让芯片承载大模型的下一次进化。