科技快讯 · 科技快讯-K

Lambda在万卡AI工厂部署NVIDIA光子交换技术,探索降低集群网络延迟

来源:NVIDIA官方博客,11月16日 标签:

TECHSIR NEWS FLASH

云计算企业Lambda宣布在其AI基础设施中采用NVIDIA光子共封装光学(CPO)交换机,用于连接搭载GB300 NVL72的超大规模GPU集群,涉及超过1万颗GPU。NVIDIA披露的测试数据显示,该方案在机架级网络延迟降低约4%,在Pod级最高降低约10%,并通过光电转换靠近交换芯片的方式改善功耗和网络可靠性。随着AI训练和Agent推理集群扩大,数据中心网络正在成为新的性能优化重点。

评论交流