文档介绍：该【通信行业2024上市公司见面会暨春季策略会：全球算力共振，国内新连接开启 】是由【琥珀】上传分享，文档一共【37】页，该文档可以免费在线阅读，需要了解更多关于【通信行业2024上市公司见面会暨春季策略会：全球算力共振，国内新连接开启 】的内容，可以使用淘豆网的站内搜索功能，选择自己适合的文档，以下文字是截取该文章内的部分文字，如需要获得完整电子版，请下载此文档到您的设备，方便您编辑和打印。LPO CPODCI5G-AAIAI。请参阅附注免责声明3/请参阅附注免责声明3请参阅附注免责声明3NVDA GB200数据来源:英伟达发布会,国泰君安证券研究请参阅附注免责声明3表:NVDA新一代GPU集群架构情况光模块数量和比例取决于不同组网方式和计算单元,差异较大,最终整体需求取决于不同组合的销售占比情况,总体仍然会有强有力的需求。5请参阅附注免责声明Google TPUv4 TPUv5谷歌自研TPU系列作为训练芯片,%的训练在TPU上进行。2020年开始部署TPUv4,对应400G光模块,而我们预计当前已经开始部署TPUv5,对应800G光模块。一个TPUv4Package有16个OSFP连接口,作为外部的ICI互联。,每个TPUv4有6个ICIlink,16个Package组成一个机柜(Rack),一共有64个机柜,按8*8去排列。数据来源:谷歌图:TPUv4封装形态数据来源:谷歌图:1个4096集群里64个机柜中的8个图示Google OCS MEMs 136*136数据来源:谷歌机柜与机柜间的连接要经过OCS,全称OpticalCircuitSwitch,是谷歌自研的光交换机。谷歌OCS交换机成为Palomar,拥有136*136个端口交互能力,用MEMS阵列控制光路输入输出。应用中,一般128个通道是工作通道,8个是测试通道。图:OCS实际架构群 图:OCS原理图数据来源:谷歌请参阅附注免责声明6AWS Trainium 2DTorus NeuronLink-v2AWSTrainium是AWS专门为超过1000亿个参数模型的深度学****训练打造的第二代机器学****ML)加速器。每个加速器包括2个NeuronCore,具备32GBHBM内存,提供190TFLOPS的FP16/BF16,380INT8TOPS,-v2,类似于NVLink,互联速率达到384GB,比A100300GB要高。数据来源:AWS官网图:大模型时代算力需求增长超越摩尔定律图:Trn1/Trn1n服务器内卡间互联采用2DTorus拓扑结构数据来源:AWS官网请参阅附注免责声明6AWS Trainium H100 A100 Trainium EC2UltraClustersEC2UltraClusters是可以扩展到数千张GPU或者ML加速器,例如AWSTranium、H100、A100的集群EC2允许扩展到20000H100,A100则是仅扩展到4000张,Trainium可以扩展至30000张。数据来源:AWS官网图:UltraCluster允许进行non-blocking大量组网UltraClusterAIAccelaratorMaxiumNetworking总算力P4A**********Gb/s3EflopsP5H100200003200Gb/s20EflopsTrn1Trainium30000800Gb/:不同类型AI芯片组网情况数据来源:AWS官网,国泰君安证券研究META MTIAMeta自研的MTIA芯片当前仅使用100G总带宽,而卡间互联还是使用PCIEGEN4。也可以看到,在云厂商中8个A100的方案大部分采用400G的总带宽接入,。表:Meta的MITA推理服务器目前采用100G网卡表:MTIA性能指标数据来源:MTIA数据来源:MTIA请参阅附注免责声明8Intel Gaudi2 8 ,8张卡对应8*300G对应6个QSFP-DD1连接口,即每个QSFP-DD为400G。如果构建成二层、三层400G网络集群则对应卡:400G光模块=1::8- 图:8-OAM的Gaudi服务器需要6个QSFP-DD口数据来源:Baudi2白皮书数据来源:Baudi2白皮书请参阅附注免责声明10