当前位置:首页 > 报告详情

计算机行业GenAI系列深度之61:超节点从单卡突破到集群重构-250709(34页).pdf

上传人: YY 编号:724594 2025-07-10 34页 2.71MB

下载:

1、行业及产业 行业研究/行业深度 证券研究报告 计算机 2025 年 07 月 09 日 超节点:从单卡突破到集群重构 看好GenAI 系列深度之 61 相关研究 从 CloudMatrix 看超节点趋势!3D 打印产业强趋势!计算机行业周报20250616-20250620 2025/06/21 字节 FORCE 大会亮点!华为 HDC 2025 关注点!计算机行业周报20250609-20250613 2025/06/14 证券分析师 黄忠煌 A0230519110001 李国盛 A0230521080003 林起贤 A0230519060002 杨海晏 A0230518070003 洪依真

2、 A0230519060003 刘洋 A0230513050006 研究支持 曹峥 A0230525040002 崔航 A0230524080005 刘菁菁 A0230522080003 联系人 曹峥(8621)23297818 本期投资提示:超节点:大模型参数爆炸式增长驱动下,算力需求从单点转向系统级整合。Scale-up与 Scale-out 成为算力扩容的两大维度。全球 AI 芯片核心玩家英伟达 GB200NVL72、华为 CloudMatrix 384 等产品的落地,标志着超节点在机柜级互联与跨机柜组网技术上取得突破,单机柜算力密度提升与多机柜全互联架构成为行业竞争焦点。技术路径上,超

3、节点呈现单柜高密度与多机柜互联的双向扩展,背后是通信协议与工程成本的平衡。英伟达通过 NVLink 实现 72 GPU 单机柜全互联,带宽达 1800GB/s,聚焦低时延高频交互场景;华为则以两层 UB Switch 构建 384 NPU 跨机柜超节点,通过 Clos 网络拓扑实现无阻塞通信,节点间带宽衰减低于 3%。AMD 推出的 IF128方案尝试融合以太网技术,打破 Scale-up 与 Scale-out 边界,而特斯拉 Dojo 因 2DMesh 拓扑局限性进展不及预期,凸显专用生态的落地挑战。国产超节点方案以华为 CloudMatrix 384 为代表,实现算力规模突破,打破单卡性

4、能瓶颈。该方案通过 UB 网络将 384 个昇腾 NPU 连接起来,形成 1.7 倍于英伟达NVL72 的算力规模,且内存容量达 3.6 倍。实测数据显示,其两层 UB Switch 架构对性能影响微乎其微,节点间延迟增加低于 1s,在 MoE 模型推理中通过 DecodeEP320 策略实现资源高效调度,验证了国产方案在大规模组网中的工程能力。超节点产业化将重塑算力产业链分工,催生服务器整合、光通信增量及液冷渗透提升等投资机会。芯片厂商纵向整合趋势明显,英伟达、AMD 通过并购强化通信与软件能力,国内拟海光信息吸收合并中科曙光,强化软件、液冷等能力;代工环节,光通信领域,华为 CloudMa

5、trix 推动光模块需求,光模块与 GPU 需求比可达 1:18;IDC 产业链中,单机柜功率超 120kW 推动液冷渗透率提升,模块化布局加速智算中心交付。市场当前对超节点的认知存在两大预期差:一是低估国产方案在推理场景的性价比优势,华为 CM384 在 Deepseek R1 模型推理中,单卡 Prefill 吞吐达 5655 tokens/s,单位 TFLOPS 效率超英伟达 H100 方案 18%;二是忽视算力网络架构变革对产业链的重构。当前的双层 UB-Switch 方案以及可能在未来推出的 UB-Mesh 架构,对于电气电缆直接互连、光互联的依赖程度不同,可能影响两大连接技术的演进

6、,功耗大幅提升下,对液冷、供电、机房基建也提出更高的要求。把握技术路径演变下的产业链机会,聚焦硬件互联与场景适配双线布局。建议关注:1)光通信:华工科技、光迅科技、中际旭创、新易盛等;2)网络设备与芯片:盛科通信、紫光股份、锐捷网络等;3)数据中心产业链:润泽科技、奥飞数据、光环新网、英维克、科华数据、科泰电源等;4)铜连接:意华股份、瑞可达、鼎通科技、兆龙互连;5)AI 芯片与服务器供应商:海光信息、中科曙光、浪潮信息、紫光股份、神州数码、联想集团、华勤技术。风险提示:技术路线不确定的风险;技术研发迭代进展不及预期;供应链稳定风险;竞争加剧风险。请务必仔细阅读正文之后的各项信息披露与声明行业

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
根据报告的内容,本文主要讨论了超节点在AI算力网络中的发展趋势,以及其对产业链的影响。主要观点如下: 1. **超节点发展趋势**:大模型参数增长驱动下,超节点成为AI算力网络的新趋势,通过单柜高密度和多机柜互联双向扩展,实现算力规模突破。英伟达、AMD、华为等公司纷纷推出超节点产品。 2. **国产超节点方案**:华为CloudMatrix 384通过UB网络连接384个NPU,实现1.7倍于英伟达NVL72的算力规模,在Deepseek R1模型推理中,单卡Prefill吞吐达5655 tokens/s,效率优于英伟达H100方案。 3. **产业链影响**:超节点产业化将重塑算力产业链分工,芯片厂商纵向整合,服务器整合、光通信增量及液冷渗透提升等投资机会涌现。建议关注光通信、网络设备、IDC、铜连接、AI芯片与服务器供应商等环节。 4. **风险提示**:技术路线不确定、研发迭代不及预期、供应链稳定、竞争加剧等风险需关注。
超节点技术如何改变AI计算? 华为CloudMatrix 384有何创新之处? 超节点产业化带来哪些投资机会?
客服
商务合作
小程序
服务号
折叠