当前位置:首页 > 报告详情

电子行业华为研究之存储:以存代算华为存储开创大模型训推新范式-250818(37页).pdf

上传人: 刺猬 编号:772426 2025-08-19 37页 2.64MB

下载:

1、 请务必阅读正文后的声明及说明请务必阅读正文后的声明及说明 Table_Info1 电子电子 Table_Date 发布时间:发布时间:2025-08-18 Table_Invest 优于大势优于大势 上次评级:优于大势 Table_PicQuote 历史收益率曲线 Table_Trend 涨跌幅(%)1M 3M 12M 绝对收益 14%22%64%相对收益 9%14%38%Table_Market 行业数据 成分股数量(只)488 总市值(亿)110708.16 流通市值(亿)107122.45 市盈率(倍)56.31 市净率(倍)4.58 成分股总营收(亿)34723.73 成分股总净利润

2、(亿)1294.61 成分股资产负债率(%)46.58 相关报告 主动散热释放端侧 AI 无限潜力热管理之端侧行业深度-20250730 AI 赋能千行百业,开拓下一个十年增长-20250729 Table_Author 证券分析师:李玖证券分析师:李玖 执业证书编号:S0550522030001 17796350403 证券分析师:张禹证券分析师:张禹 执业证书编号:S0550524120002 15221928363 研究助理:尚靖研究助理:尚靖 执业证书编号:S0550123100010 15572219237 Table_Title 证券研究报告/行业深度报告 以存代算,华为存储开创大

3、模型训推新范式以存代算,华为存储开创大模型训推新范式-华为研究之存储华为研究之存储 报告摘要:报告摘要:Table_Summary 以存代算:记性好,也是聪明的一种!以存代算:记性好,也是聪明的一种!提升大模型训推的方向,不止有GPU、HBM 与组网交换机,SSD 存储也是重要一环。存储作为贯穿大模型训练与推理全流程的核心基础设施,在训练侧,高性能存储可显著缩短数据加载与 CKPT 读写时间,降低 GPU 空耗;在推理侧,“以存代算”通过 SSD作为分级缓存承载 KV Cache,有效缓解显存瓶颈,延伸上下文、提升并发、降低时延。推理推理必将超越训练必将超越训练成为算力需求核心增长极。成为算力

4、需求核心增长极。消费级应用爆发与商业化落地带动调用量激增,Agent、多模态、RAG 等场景推动推理链路显著拉长,现有架构难以同时兼顾成本、性能与效果。推理架构优化由早期单点提升转向系统级协同,PD 分离框架成为行业重点,通过“以存(查)代算”减少重复计算,显著降低时延与成本。受限于 HBM/DRAM 容量,溢出数据需落盘至 SSD,分级缓存调度算法、支持分级缓存的底层存储系统及提升 KV Cache 读写性能的硬件成为关键突破方向。华为依托华为依托软硬结合的系统性优化,修成“软硬结合的系统性优化,修成“以存代算以存代算”之道。硬件方面,”之道。硬件方面,AI SSD 向上承接 HBM/DRA

5、M 溢出温热数据、向下替代 HDD 承载温冷数据,已成为算力基建的重要发展方向。华为自研 DoB 堆叠与高密度封装工艺将单盘容量由 30.72TB 提升至即将量产的 122.88TB,规划至 245TB;自研 Hi1812 主控;引入数据缩减加速卡、块文件对象融合架构、跨代在线扩容及多种 NVMe over Fabric 协议等技术。软件方面,软件方面,UCM 统一记忆数据管统一记忆数据管理器理器构建 HBM-DRAM-SSD 三级缓存体系,结合全局 Prefix Cache、长序列稀疏加速、后缀检索预测等,实现首 token 时延最高降 90%、吞吐率最高升22 倍、上下文窗口扩展至 10

6、倍以上,并通过开放接口对接主流推理框架与存储生态。2025 年 8 月 19 日,“华为数据存储 AI SSD 新品发布会”还会发布相应的 AI SSD 产品。针对上述产业趋势,针对上述产业趋势,本文本文整理了以下相关标的整理了以下相关标的:1)华为推理架构优化方案加速落地华为在推理架构优化领域推出UCM 统一记忆数据管理器这一强竞争力方案,预计在智算中心及行业大模型应用中加速渗透,相关标的包括天源迪科、中建信息、银信科技、电科数天源迪科、中建信息、银信科技、电科数字字等华为存储代理商。2)高密度 AI SSD 零部件环节高容量 SSD 在 AI 场景下对热管理能力要求显著提升,相关标的包括存

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
根据文章内容,主要概括如下: 1. **存储优化大模型训练与推理**:存储优化可显著缩短大模型训练时长约30%,并降低推理环节的首token时延90%,提高吞吐率22倍。 2. **推理需求增长**:推理需求正逐步成为算力需求的核心增长极,预计2027年占比将达到70%,推动存储优化的重要性。 3. **华为的“以存代算”方案**:华为通过AI SSD和UCM系统实现“以存代算”,其中AI SSD用于存储温热数据,UCM系统通过缓存优化提升推理效率。 4. **相关标的**:相关标的包括华为存储代理商天源迪科、中建信息等,以及存储供应商鸿日达、SSD模组厂商江波龙、佰维存储等。 5. **风险提示**:技术迭代风险、需求波动风险、竞争加剧风险等。 以上是对文章主要内容的简要概括。
华为存储如何提升大模型训练效率? AI SSD如何助力大模型推理? 华为UCM如何优化大模型推理性能?
客服
商务合作
小程序
服务号
折叠