西南证券通信团队发布专题报告指出，DeepSeek通过MLA与MoE架构创新，以557万美元训练成本实现顶尖模型性能，推理成本较ChatGPT O1降低96%。低成本AI模型正驱动垂类AI Agent在各行业多点开花，进而倒逼5G增强基站、边缘计算、高速交换机等通信基础设施全面升级。

DeepSeek-V3完整训练仅需2.788M H800 GPU小时，按H800 GPU每小时2美元租金计算，总训练成本仅557.6万美元。其训练过程支持FP8混合精度训练，通过算法、框架和硬件的共同设计，克服了跨节点MoE训练中的通信瓶颈。DeepSeek每百万输入tokens成本为0.55美元，每百万输出tokens成本为2.19美元，相较于ChatGPT O1模型（输入15美元/百万tokens、输出60美元/百万tokens），输入和输出成本均降低了96%。DeepSeek R1的API定价仅为OpenAI同级别模型的约3%-4%。

MLA（多头潜在注意力）通过低秩联合压缩注意力键和值，显著降低推理过程中的KV缓存，同时保持与标准多头注意力相当的性能。相较于传统Transformer架构，MLA实现了上下文理解+23%、长文本处理能力提升13.5倍、模型容量提升140%。MLA架构在保持模型性能的同时，通过压缩技术减少了内存占用和计算量，显著提高了模型的推理效率。这一架构创新使DeepSeek能够在消费级硬件上实现高效推理，为端侧部署奠定了技术基础。

MoE（混合专家架构）通过将模型划分为多个“专家”模块，每个专家专注于处理特定任务或数据子集。训练和推理中仅激活10%-30%的参数参与计算，相较于稠密模型100%参数参与，MoE稀疏模型实现单样本计算量3-10倍的提升。千卡集群利用率从45%-50%提升至60%-65%，训练显存占用降低60%。MoE架构还具备高度可扩展性，通过增加专家数量可进一步提升模型性能而不显著增加计算成本。DeepSeek-V3总参数达671B，但每个token仅激活37B参数。

| 维度 | DeepSeek-V3/R1 | ChatGPT O1 | 提升幅度 |

|

|

|

|

|

| 训练成本 | 557.6万美元 | 数千万至上亿美元 | 降低90%+ |

| 输入tokens成本 | 0.55美元/百万 | 15美元/百万 | 降低96% |

| 输出tokens成本 | 2.19美元/百万 | 60美元/百万 | 降低96% |

| 推理架构 | MLA+MoE | 标准Transformer | 效率提升数倍 |

| 端侧部署 | 支持蒸馏小模型 | 不支持 | 质变 |

来源：DeepSeek技术报告、西南证券研究所

DeepSeek从成本端和技术端对垂类AI小模型（AI Agent）带来直接催化。成本端看，更低的推理成本降低了垂类AI Agent的开发成本，极大刺激了各行业的企业智能化需求。技术端看，DeepSeek在自然语言理解、多模态交互等底层技术上的突破直接降低了垂直领域小模型的技术门槛，其开源的分布式训练框架等技术能够被小模型复用。DeepSeek的模型知识蒸馏等压缩技术使小模型既能继承大模型能力，又保持轻量化特性。垂类数据集与DeepSeek大模型形成强大数据飞轮——各垂直领域行业数据反哺基座模型优化，基座模型优化又进一步降低垂类模型开发成本。