华为昇腾超节点:用芯片数量与光互联换性能,算力赛道的另一条突围路线
导语同样约 8 EFLOPS FP8 算力,英伟达的方案大约只需要 7 个机柜,而华为 Atlas 950 超节点却需要 160 个机柜,占地接近两个半篮球场。很多人看到这个数字,会简单理解为硬件差距。但这里藏着一个关键架构差异:英伟达 7 个机柜,是7 台独立的 Scale‑up 计算机,机柜之间只能走普通数据中心网络;而华为这 160 个机柜,在逻辑上合并成为一台完整的巨型计算机,8192 颗 NPU 芯片处在同一套高速互联域内,任意一颗芯片都可以直接读写跨机柜其他芯片的内存。
在先进工艺、HBM 高带宽显存受到外部约束的现实背景下,华为走出了一条差异化路线:单颗芯片性能存在短板,就依靠大量芯片叠加 + 自研光互联系统工程来弥补。但堆芯片不是简单的硬件堆叠,规模放大之后会迎面撞上三大硬核难题:传输距离、系统可靠性、整机能耗。从 CloudMatrix 384 到 Atlas 950,再到新一代 Atlas 960E,华为每一代超节点,本质上都是在回答上一代暴露出来的工程难题。
本文结合公开技术资料,拆解超节点背后的工程取舍,对比英伟达与华为两条截然不同的技术路线,分析二者各自的约束条件,以及未来两条路线逐步互相靠拢的行业趋势。
一、单颗芯片有短板:用规模做系统层面弥补
受外部管制约束,先进制程、HBM 显存获取存在现实门槛,单颗昇腾 NPU 对比海外旗舰 GPU 存在性能差距。最直接的解决思路就是依靠数量补齐整体算力。但把成千上万个芯片拼在一起,并不是插上线缆就可以直接工作,规模扩张会立刻带来三座大山:
[*]距离问题:芯片分散在数十上百个机柜,铜线传输距离存在物理上限,远距离必须依靠光通信;
[*]可靠性问题:芯片、光模块、光缆数量成倍上涨,任何一处链路故障,都有可能拖累整套万卡集群;
[*]能耗问题:芯片数量变多,加上海量光硬件,整机功耗会急剧飙升。
华为三代超节点演进,就是持续攻克这三大难题的过程。
二、第一重难关:距离,铜线的物理边界,用光互联跨机柜
铜缆高速信号的传输距离十分有限,通常仅能维持一两米高质量传输,英伟达 NVLink 把 GPU 尽量收拢在同一个机柜内部,在机柜之内用铜缆实现高速 Scale‑up;一旦跨机柜,带宽就会出现断崖式下跌。
华为上一代 CloudMatrix 384(Atlas 900 A3 超节点),384 颗昇腾 910C 分布在 16 个机柜,最远芯片相隔十米,铜线已经无法满足,整套系统大量依靠光模块完成互联,整套系统使用超过五千个光模块。第三方机构 Semi‑Analysis 做过对比,CloudMatrix 384 总算力相比对标英伟达系统高出约七成,内存容量多出两倍多;但整机功耗接近四倍,单位算力功耗大约是对方两倍。这套方案证明:依靠大量芯片 + 光互联,系统总能力可以实现反超,但代价是更高的电力消耗。在国内数据中心电力供给相对充裕的条件下,该方案可以落地,但如果继续把规模再扩大 20 倍,距离、功耗、可靠性矛盾会被进一步放大。
在此基础上,华为推出 Atlas 950 超节点,最大支持8192 颗昇腾 950DT 芯片,共计 160 个机柜。对比英伟达 Rubin 机柜:芯片数量是对方 56.8 倍,总算力是 6.7 倍;单颗芯片平均算力大约只有对方八分之一,但统一池化内存容量达到对方 15 倍。
内存池化是这套架构非常关键的价值点。传统多机柜方案,内存分散在多套独立 Scale‑up 单元,大模型尤其是 MoE 混合专家模型,一旦放不下单机柜,就要走低速跨机柜网络搬运数据。而 Atlas 950 的海量内存全部处在同一个逻辑计算机之内,任意芯片可以直接访问,对于超大模型训练、高并发长文本推理有明显优势。
针对推理业务的不同阶段,华为还做了内存差异化配置:
[*]950‑PR 版本:面向预填充阶段,使用成本更低的自研内存;
[*]950‑DTT 版本:面向解码、训练场景,配置高速自研 HBM;把稀缺的高速 HBM 资源集中消耗在真正需要它的环节,以此平衡成本与性能。
三、第二重难关:可靠性,光链路更容易坏,如何做到故障几乎无感
当系统扩张到八千多张芯片,成千上万条光缆、光模块同时工作。铜线故障点少;而光链路要完成电‑光、光‑电转换,包含激光器、调制器、探测器等器件,激光器本身就是高故障率部件。链路数量越多,故障概率越高,如果不做特殊设计,频繁故障会直接摧毁万卡训练任务。大模型同步训练整套集群速度由最慢的链路决定,一条链路异常,全部芯片就要等待,严重就要回退数小时之前的检查点。
华为给出的解法是自研灵衢 Unified‑Bus 互联协议昇腾社区:
[*]协议归一:服务器、NPU、内存、存储不再使用十几种异构协议,统一一套语言,芯片可以像访问本地内存一样读写别的机柜芯片内存,消除多层协议转换带来的延迟与故障点,这也是真正逻辑上 “一台计算机” 的核心基础。
[*]纳秒级故障切换:光链路故障可以在纳秒级别探测完成,立刻切换备用路径,上层训练任务几乎感知不到故障,官方数据光互联系统可靠性提升一百倍。
[*]UB‑Mesh 拓扑思想:近铜远光:同一机柜内部 64 颗芯片,行和列优先使用一米左右短铜线;相邻机柜使用有源电缆;只有远距离才启用光纤,九成以上连接依靠铜,光互联仅占 6% 左右,从源头减少光器件数量。同时每个机柜预留备用芯片,硬件出现问题直接顶替故障节点,故障是必然发生的,那就提前准备替换资源。
横向对比谷歌的方案:谷歌依靠光路镜子做故障绕行,切换是毫秒级别;华为灵衢协议纳秒级切换,比其快上万倍。但 UB‑Mesh 属于公开论文方案,Atlas 950 商用产品具体实现并未完全对外披露。
四、第三重难关:能耗,从堆数量走向增强单芯片 + 优化光硬件
CloudMatrix 384 暴露的短板就是单位算力功耗偏高,来源有两点:单颗芯片算力有限;海量传统可插拔光模块带来巨大耗电。华为在 2026 年推出Atlas 960E 超节点,从两个方向解决能耗问题新华网。
[*]增强单颗芯片实力:新一代昇腾 960 单颗算力翻倍,达到同等总算力仅需要 4096 颗芯片,芯片整体数量减半,互联链路同步减少,距离、可靠性、能耗三重压力同步缓解。产品路线图也提前迭代,昇腾 960 训练版提前至 2027Q1 发布。
[*]NPO 近封装光引擎 Hi‑ONE:传统可插拔光模块放置在机箱前面板,走线长、功耗高。Hi‑ONE 把光引擎挪到靠近芯片的主板位置,单引擎带宽 7.2T。原本 Atlas 960E 需要 48000 个 800G 光模块,改用 Hi‑ONE 之后仅需要 5500 个,光硬件直接减少近九成,整机功耗下降超过 550 千瓦,差不多等同于一整套 CloudMatrix 384 的整机功耗;同时硬件数量下降,故障概率同步降低,系统无故障运行时间直接翻倍。
这里做工程取舍:Hi‑ONE 采用内置光源 NPO 方案,没有直接把光引擎焊死封装进芯片内部。如果直接封装在芯片内,一旦光源损坏,整块芯片就要报废,维修成本不可接受。现在放在主板,损坏可以单独更换,在功耗、带宽、可维护性之间取得折中,但内置光源也带来散热、器件寿命的新挑战,长期表现有待大规模部署后的实际数据验证。
五、两条技术路线:约束决定选择,未来正在互相靠拢
英伟达与华为的路线差异,本质来自两家面对的现实资源约束:
[*]英伟达:手握性能顶尖 GPU 芯片,但美国新建数据中心越来越受电网供电上限约束。电力是稀缺资源,最优思路就是把最强算力塞进单个机柜,依靠 NVLink 铜缆做机柜内 Scale‑up,追求每一瓦电力产出尽可能多算力。
[*]华为:单芯片、高端 HBM 受到约束,国内电力供给相对宽裕,选择以算力规模弥补单芯片差距,大量使用光互联,把 “单台逻辑计算机” 的边界拓展到上百个机柜。
但两条路线并不是永远分道扬镳,未来正在互相靠拢:
[*]英伟达方向:单机柜 NVL 规模已经摸到天花板,Rubin 时代开始使用可插拔光模块跨机柜;后续 Fremont 平台计划引入 NPO 近封装光学,向外拓展更大规模 Scale‑up 系统。
[*]华为方向:持续迭代增强单颗 NPU 芯片性能,减少芯片总数量;同时把光引擎不断向芯片位置靠近,持续降低功耗。
一个往左拓展规模,一个往右增强单芯片,最终两者架构走向趋同:更大的 Scale‑up 逻辑计算机,更近芯片的光互联硬件。差距来自迭代速度,以及付出的功耗、成本代价。
有三件行业变量会决定后续格局:
[*]国产工艺与自研 HBM 迭代速度:决定单颗芯片性能追赶的节奏;海外巨头同样每年迭代新品,这是动态博弈。
[*]产能供给约束:华为公开提到供给难以完全满足国内全部需求,HBM 紧缺会带来涨价压力,产能有时候比纸面性能更能决定市场格局。
[*]软件生态鸿沟:英伟达 CUDA 是深厚护城河。硬件可以依靠系统工程补齐,但开发者生态迁移是慢变量;华为把 CANN 开源,并且成为 PyTorch 官方支持平台,目的就是降低迁移门槛。
超节点时代,AI 算力的竞争已经不再仅仅比拼单颗芯片跑分。竞争单位从一颗芯片,升级到机柜、整套超节点、完整软硬件系统。MoE 混合专家这类大模型对跨芯片高频通信需求极强,把数千颗芯片整合进同一台逻辑计算机,具备实实在在业务价值。
六、大众 & 技术爱好者高频认知误区澄清
误区 1:机柜数量多就代表技术落后
纠正:要区分物理机柜数量和逻辑 Scale‑up 边界。同样总算力,华为机柜多,但可以把几千张卡纳入同一个逻辑计算机;英伟达受限于铜缆距离,跨机柜就会落入低速普通网络,二者应用场景侧重点不一样,不能简单机柜数量论高下。
误区 2:光互联就是技术先进,铜缆就是落后
纠正:铜缆短距离带宽高、功耗低、可靠性好;光互联解决远距离传输,但器件多、功耗成本更高。行业通用最优策略是近铜远光,近距离优先铜线,远距离才用光,不是全盘光化就更强。
误区 3:超节点只要把足够多芯片插在一起就可以实现
纠正:最大难点不在堆硬件,在于互联协议、故障自愈、内存统一编址。万卡集群最大的敌人是慢节点、随机链路故障,硬件只是基础。
误区 4:华为超节点已经全方位碾压英伟达整套体系
纠正:在超大 MoE 模型、超大统一内存池场景有架构优势;单芯片性能、CUDA 软件生态、中小规模集群能效依旧是英伟达强项,各有适用场景。
误区 5:NPO 近封装光学可以无条件解决所有功耗难题
纠正:NPO 降低功耗的同时带来维修、散热、器件寿命的工程取舍,纸面指标优异,大规模长期稳定性还需要真实部署验证。
全文总结
面对先进芯片与 HBM 的外部约束,华为昇腾超节点走出一条系统工程突围道路:单颗芯片能力有限,就依靠大量芯片叠加 + 自研灵衢光互联,把上百个机柜内数千颗 NPU 融合为一台逻辑上的巨型计算机。
这套方案需要翻越三座大山:传输距离、海量器件带来的可靠性危机、整机能耗。从 CloudMatrix 384 到 Atlas 950,再到 Atlas 960E,每一代产品都在迭代解决上一代遗留的工程短板:引入纳秒级故障切换、近铜远光拓扑、Hi‑ONE 近封装光引擎,在功耗、可靠性、可维护性之间不断做权衡取舍。
英伟达与华为两条路线,本质是各自现实资源约束下做出的最优解:前者追求单瓦算力最大化,后者依靠系统规模弥补单芯片短板。长远看两者技术会逐步靠拢,都向着更大规模 Scale‑up、芯片侧光互联演进。
AI 算力竞争早已不是单颗芯片跑分的游戏,芯片之间那张互联大网,和芯片本身同等重要。而产能供给、软件生态,会是决定这套硬件体系能不能充分释放实力的另外两大关键变量。
页:
[1]