发布于: 雪球转发:0回复:0喜欢:0

A100和H100 AI GPU订单增加将提升光模块需求
英伟达DGXA100 SuperPOD的AI数据中心系统中,三层交换机全部为Nvidia Quantum QM8790的40端口交换机。第一层交换机与1120张Mellanox HDR200G Infiniband网卡连接;第二层交换机下传端口与第一层相连,上传端口与第三层互联;第三层交换机只有下传端口,与第二层相连。此外,存储侧独立组网,与计算侧网络架构分开,也需要一定数量的交换机和光模块。因此,相比较传统数据中心,AI数据中心中的交换机及光模块数量大幅提升。
英伟达的A100 GPU主要对应200G光模块,H100GPU可以对应400G或800G光模块。每个A100GPU配一张Mellanox HDR20 0Gb/sInfiniband网卡,每个H100GPU配一张Mellanox NDR400Gb/sInfiniband网卡。
英伟达在H100 SuperPOD的设计中,采用了800G的光模块,在光口采用1个800G光模块可以替代2个400G光模块,在电口也可以将8个SerDes通道进行整合,与光口的8个100G通道一一对应。因此这种设计下,交换机的通道密度提高,物理尺寸显著降低。