华为：2026昇腾950 NPU架构白皮书.pdf

1、 昇腾昇腾 950 NPU 架构白皮书架构白皮书 华为技术有限公司华为技术有限公司 版权所有版权所有 华为技术有限公司华为技术有限公司 2026。保留一切权利。保留一切权利。非经本公司书面许可，任何单位和个人不得擅自摘抄、复制本文档内容的部分或全部，并不得以任何形式传播。商标声明商标声明 和其他华为商标均为华为技术有限公司的商标。本文档?及的其他所有商标或注册商标，由各自的所有人拥有。注意注意 您购买的产品、服务或特性等应受华为公司商业合同和条款的约束，本文档中?述的全部或部分产品、服务或特性可能不在您的购买或使用范围之内。除非合同另有约定，华为公司对本文档内容不做任何明示或暗示的声明或保证。

2、由于产品版本升级或其他原因，本文档内容会不定期进行更新。除非另有约定，本文档仅作为使用指导，本文档中的所有陈述、信息和建议不构成任何明示或暗示的担保。华为技术有限公司 地址：深圳市龙岗区坂田华为总部办公楼 邮编：518129 网址：https:/ 客户服务邮箱： 客户服务电话：4008302118 安全声明 漏洞处理流程漏洞处理流程 华为公司对产品漏洞管理的规定以“漏洞处理流程”为准，该流程的详细内容请参见如下网址：https:/ 如企业客户须获取漏洞信息，请参见如下网址：https:/ 目目 录录 1 关键术语关键术语.1 2 引言引言.4 3 架构概述架构概述.6 4 深度剖析深度剖析.1

3、2 4.1 AI 子系统：第三代 DaVinciCore.12 4.1.1 CUBE CORE.13 4.1.2 VECTOR CORE.16 4.1.3 新同构 SIMD/SIMT 混合编程.17 4.1.4 支持 CV 融合.18 4.1.5 新增 NDDMA 指令.18 4.1.6 更易用的同步机制.19 4.2 AI CPU 子系统.20 4.3 Memory 子系统.20 4.3.1 高速片上内存.22 4.3.2 L2 Cache 特性.22 4.4 软硬协同高效调度：STARS2.0.23 4.5 图片处理子系统.24 4.6 互连子系统.25 4.6.1 URMA.26 4.6

4、.2 UBoE.27 4.6.3 UB Memory.27 4.6.4 CCU.28 4.6.5 UB On Chip Switch.30 4.6.6 PCIe 5.0.31 4.7 超节点能力.32 4.7.1 昇腾超节点.32 4.7.2 昇腾超节点与超大内存池组网.32 4.7.3 昇腾超节点与超大存储资源池组网.33 4.7.4 昇腾超节点与以太世界互通.34 5 更多参考更多参考.36 1 关键术语关键术语 表1-1 关键术语 术语 描述 AIC AI Cube Core。在 AI Core 分离架构下，一组 Cube Core 和 Vector Core组合中的 Cube Core

5、。AIGC Artificial Intelligence Generated Content，人工智能生成内容，指利用深度学习模型（如 GPT、Diffusion Models）自动生成文本、图像、音频、视频等内容的技术。AIV AI Vector Core。在 AI Core 分离架构下，一组 Cube Core 和 Vector Core 组合中的 Vector Core。AI CPU 芯片内的自研 ARM 架构 CPU 内核，在昇腾 950 芯片中指自研Linx816 CPU Core。AI Die 昇腾 950PR 芯片和昇腾 950DT 芯片中的计算 Die。CANN Comput

6、e Architecture for Neural Networks，昇腾异构计算架构软件栈。Clos Clos 组网是一种基于多级交换的无阻塞网络架构，主要用于构建高性能、高扩展性的数据中心网络。其核心特点是通过多级互连和全连接拓扑实现任意节点间的无阻塞通信，同时支持水平扩展和成本优化。CMO Cache Maintenance Operations，通过 SDMA 实现的 L2 Cache 管理机制。CTP Compact Transport，Unified Bus 的轻量级传输层模式，借助下层协议共同?供可靠和拥塞控制的传输服务。Device Host-Device 架构的设备侧，本文指