查看: 48|回复: 0

用镜子做交换机:谷歌 OCS 光路交换,重新定义 AI 超算互联

[复制链接]

1813

主题

5

回帖

5516

积分

超级版主

积分
5516
发表于 2026-10-22 08:10:01 | 显示全部楼层 |阅读模式
前言

      在 AI 大模型算力集群里面,传统电交换机承担着数据转发的重任,但光‑电‑光反复转换带来巨大功耗、成本压力。谷歌走出了一条与众不同的技术路线:Palomar OCS 光路交换系统,依靠 MEMS 微型反射镜阵列,全程以光信号完成数据转发,不需要把光转换成电做数据包解析。
      这套 “用镜子做的交换机”,已经大规模部署在 Jupiter 数据中心网络以及 TPU v4、TPU v7 超算集群,可以把数千颗 TPU 芯片动态拼接成一台巨型超级计算机。它大幅降低网络功耗与硬件成本,还可以根据任务随时改变芯片之间的网络拓扑。但 MEMS 机械镜片也带来固有的短板,这套方案很难直接照搬复制。
提示:本文为公开技术科普,内容来自谷歌公开论文与行业公开资料,不构成投资、硬件选型建议。

一、传统电交换机的痛点:反复光电转换,又贵又耗电

传统数据中心 Clos 胖树网络架构,服务器流量先经过机柜顶端 ToR 交换机,再向上汇聚到顶层脊交换机(Spine)。光纤负责长距离传输,但交换机内部只能处理电信号。每经过一台交换机,就要执行光→电→光完整转换流程:光模块把光信号转为电信号,交换芯片读取数据包、查表选路,再转回光信号继续向外发送Google Clo...。
这套模式带来几个现实负担:
  • 功耗巨大:大容量电交换机插满光模块,整机功耗可达数千瓦;
  • 硬件迭代成本高:带宽从 100G 升级 400G、800G,交换机整机连同光模块往往需要整体更换;
  • 数据包逐包处理开销大:每一个数据包都要解析头部、查表转发,当集群规模扩张,顶层交换机就成为性能瓶颈。
谷歌工程师观察到一个关键现象:数据中心顶层的大块流量,变化是以分钟、小时为单位,而不是微秒级别快速抖动。A 区域与 B 区域长时间保持大流量通信。既然大块连接相对稳定,不一定需要逐个数据包做路由,就可以借鉴老式电话局的电路交换思路:直接建立一条持续的物理光路,数据直接透传,中间不解析数据包内容36氪。
二、Palomar OCS:依靠 MEMS 微镜实现全光电路交换

Palomar 就是谷歌自研的光路交换机,整机具备 136 个端口,其中 128 个业务端口投入使用,8 个作为硬件备用端口。核心不是交换芯片,而是两组 MEMS 微机电反射镜阵列。
基础工作原理

  • 光纤输入的光信号,经过透镜变成平行光束,投射到第一组 MEMS 微镜阵列;
  • 通过静电驱动控制镜片二维偏转,光束反射到第二组微镜;
  • 第二组微镜再次调整角度,精准耦合进目标输出光纤,完成端口之间光路对接。
整个过程,光全程只做反射,不会转为电信号,不读取数据包内容。只要镜片角度固定,这条光路就持续打通,和传输速率、通信协议无关。不管是 100G、400G 还是 800G,光信号都可以直接透传。未来升级带宽,只需要更换两端光模块,中间镜子交换机可以继续服役,不需要整机替换Google Clo...。
为解决微镜角度受热、震动、器件老化发生漂移的难题,系统额外引入850nm 监测光:该波长普通图像摄像头可以识别,不和业务通信的 1310nm 数据光互相干扰。摄像头拍摄反射光斑,软件闭环实时微调微镜角度,保证光束精准射入直径仅 9 微米的单模光纤纤芯,整套交换机光信号插入损耗控制在 2dB 以内arXiv。
同时内部使用光环形器,实现单根光纤双向收发,直接把整机需要的端口、光纤数量减半。整机最大功耗仅 108W,对比同等吞吐量的电交换机,功耗降低一个数量级36氪。
重要短板:MEMS 属于机械结构,镜片偏转切换光路需要毫秒级时间;而电交换芯片处理数据包是纳秒级别。切换光路的瞬间链路会短暂中断。因此 OCS 适合连接关系相对稳定的大块流量,不适合处理细碎、频繁变化的小包通信。需要调整连接时,系统先把流量迁移至其他链路,再转动镜子重配光路arXiv。
三、两大落地场景:数据中心网络 & TPU 超级计算机

场景 1:Jupiter 数据中心网络,直接拿掉顶层脊交换机

谷歌把传统 Clos 架构的顶层电脊交换机整体移除,替换成 Palomar OCS 光路交换层。各个汇聚块直接通过全光交换机动态建立直连光路。系统持续监控各个区块流量,哪两个区域流量高,就分配更多光路直连。
根据谷歌公开生产环境数据对比:
  • 硬件资本开支下降约 30%
  • 网络功耗下降约 40%
  • 整体吞吐量提升约 30%
  • 数据流完成时间缩短约 10%
  • 网络停机时间降低 50 倍。
其中停机时间大幅改善的关键点:带宽迭代升级,不再需要整体更换顶层交换机,新旧速率设备可以共存,逐步分批替换硬件,不用大规模停机施工。
场景 2:TPU 超算集群,动态重构算力互联拓扑

以 TPU‑v4 为例,基础单元是 4×4×4 三维立方体,每一个立方体内部包含 64 颗 TPU 芯片。立方体内部芯片采用短距离电互连;立方体向外伸出 96 路光纤,接入 Palomar 光路交换机arXiv。
OCS 带来两大核心能力:
  • 故障隔离与重组传统静态布线集群,如果其中一个硬件立方体故障,整组拓扑就会受损。而 OCS 可以从大量可用硬件中,挑选健康的立方体,转动镜子把它们重新拼接组网;损坏单元直接隔离换掉,不需要人工现场插拔线缆。没有 OCS 时,集群需要 99.9% 硬件完好才能高效运行;引入光路交换,硬件可用率 99.0‑99.5% 依旧可以保持高效工作,对大规模集群故障容忍能力大幅提升arXiv。
  • 按需改变网络拓扑结构不同 AI 模型、不同并行算法,最优芯片互连拓扑不一样。依靠镜子切换光路,同一批 TPU 硬件,可以动态组成长方体、扭转环面(Twisted‑torus)等不同逻辑网络拓扑,不需要改动物理布线,部分场景吞吐量提升 1.3‑1.6 倍。TPU‑v7 单套超算集群可以扩展至 9216 颗芯片规模。
整套 OCS 光学硬件,占 TPU‑v4 整套超级计算机成本不到 5%,功耗占比不到 3%;如果换成传统 Infiniband 方案,则需要数百台电交换机,成本与功耗会显著增加arXiv。
四、为什么其他厂商很难简单照搬这套方案

虽然 OCS 效果亮眼,但它不是拿来插上就能用的标准化商品,有很高的整体协同门槛:
  • 软硬深度一体化定制MEMS 交换机、双向传输光模块、流量调度软件、TPU 芯片、集群任务调度器全部深度协同。从硬件光学器件,到上层 AI 训练调度系统,全部需要自研适配。多数企业的数据中心是多厂商标准化硬件拼凑而成,很难做到端到端协同优化。
  • 需要长时间大规模工程沉淀谷歌这套系统在生产环境打磨近十年,部署上万台 Palomar 交换机。MEMS 镜片良率、闭环对准、故障运维,都需要海量生产实践去迭代,短期很难复制。
  • 业务场景有明确边界OCS 擅长大块、变化缓慢的流量;对于服务器之间细碎、突发小包通信,依旧离不开传统电分组交换机。适合 AI 训练这类大流量稳定负载,通用公有云混合多变负载场景很难发挥全部优势。
不过该技术正在走向行业标准化:OCP 开放计算项目成立光路交换专项小组,谷歌、英伟达、微软、Lumentum 等企业参与,谷歌贡献管理控制接口规范,推动不同厂商 OCS 设备可以统一调度。但调度系统、AI 训练框架如何利用动态可重构网络,依旧是各家需要解决的工程难题。
五、三种算力互联技术路线对比

  • 传统电分组交换(EPS/Infiniband)现在行业主流方案,逐数据包查表转发,毫秒‑纳秒级切换;优点适配所有流量模式;缺点光‑电‑光转换带来高功耗、高成本,带宽升级往往需要整机更换。
  • 谷歌 MEMS‑OCS 光路交换建立静态光路透传,不解析数据包;优点功耗低、速率协议无关、支持动态重构拓扑;缺点机械毫秒级切换,仅适合大块稳定流量,需要软硬件深度定制。
  • CPO 共封装光学(下一代方向)把光收发引擎和交换 / 计算芯片封装在一起,信号一出芯片直接转为光信号,缩短电路板上的铜线距离,从根源缓解铜线信号衰减难题,也是行业重点探索的下一代路线,但尚未大规模商用落地。
注意:OCS 并不是完全取代铜线。机柜内部主板、芯片之间依旧大量使用铜互连;OCS 解决的是机柜之间、TPU 立方体之间长距离互联。谷歌对外售卖的英伟达 GPU 云服务器,依旧使用市面标准商用互连硬件Google Clo...。
六、大众常见认知误区澄清

误区 1:OCS 全光交换机可以处理所有网络流量,可以彻底淘汰电交换机。纠正:只适合大块稳定流量;短时间频繁变化的小包通信,仍然需要电分组交换机协同工作。
误区 2:OCS 内部是光信号,所以切换速度是光速,延迟极低。纠正:光束传播是光速,但 MEMS 微镜机械偏转需要毫秒级切换时间,切换瞬间链路会中断,不能频繁反复切换光路。
误区 3:只要采购 MEMS 光交换机,就能复刻谷歌 TPU 集群性能。纠正:硬件只是其中一环,需要调度软件、定制光模块、训练框架全套配合,单纯购买硬件无法发挥动态拓扑的全部收益。
误区 4:OCS 可以无限升级,什么速率都不用更换任何器件。纠正:交换机本身与速率无关,但光纤两端的光模块,依然要跟随带宽迭代升级。
误区 5:850nm 监测光用来传输业务数据。纠正:850nm 仅用于镜片位置闭环校准;真正业务数据使用 1310nm 波段传输,两者互相分离互不干扰。
结语

谷歌 Palomar OCS 光路交换,代表 AI 超算互联一条很特别的技术路径:不靠更强大的交换芯片,而是依靠 MEMS 微镜阵列,在光域直接打通物理通路。
它带给行业最大启发:AI 算力集群性能瓶颈,不只来自计算芯片,网络互联同样可以通过架构创新拿到功耗、成本、可用性的巨大收益。同时也要看到,这套方案高度依赖软硬一体化定制,存在明确适用边界,并不是通用万能的银弹。
CPO 共封装光学作为下一代重要路线,正在研发推进。未来数据中心互联会是多条技术路线共存,电交换、MEMS 全光交换、共封装光学各有自己适用的业务场景。

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|天翼网

相关侵权、举报、投诉及建议等,请发 E-mail:2026@typc.net

Powered by Discuz! X5.0 © 2001-2026 Discuz! Team.|晋ICP备2026008270号-1|晋公网安备14010602111293号

QQ客服返回顶部