您的当前位置:首页 > 标签 > 端侧AI模型部署
计算机行业人工智能系列深度报告:DeepSeek研究框架-250214(52页).pdf
2026端侧AI模型部署:蒸馏小模型AIME超越o1-mini,全球端侧AI市场2032年达1436亿美元|国海证券
国海证券研报显示DeepSeek-R1蒸馏Qwen-32B在AIME达72.6%超越o1-mini,全球端侧AI市场2022-2032年从152亿增至1436亿美元。DeepSeek支持模型蒸馏,小模型获得近似大模型推理能力,端侧AI如何迎来奇点时刻?
 2026-07-30
 计算机产业
 52页
2张图表
数据来源:
计算机行业人工智能系列深度报告:DeepSeek研究框架-250214(52页) 查看报告
DeepSeek-R1不仅是一款顶尖推理模型,更是端侧AI的“加速器”。国海证券《DeepSeek研究框架》报告显示,DeepSeek-R1蒸馏的Qwen-32B模型在AIME 2024达72.6%,超越OpenAI o1-mini(63.6%);蒸馏Llama-70B达70.0%。DeepSeek产品协议明确允许“模型蒸馏”,小模型可以获得近似大模型的推理能力。全球端侧AI市场规模预计从2022年152亿美元增长至2032年1,436亿美元,近十倍增长。本文从蒸馏技术、端侧市场、产业链机会三个维度,解析端侧AI模型部署的前景。

DeepSeek蒸馏技术突破——小模型获得近似大模型推理能力

DeepSeek-R1在开源660B模型的同时,通过模型蒸馏技术提炼出6个小模型(1.5B、7B、8B、14B、32B、70B),将大型推理模型的推理模式有效迁移至小型模型。DeepSeek-R1-Distill-Qwen-32B在AIME 2024 pass@1达72.6%,超越OpenAI o1-mini(63.6%);在MATH-500达93.9%,在Codeforces达1,691。DeepSeek-R1-Distill-Llama-70B在AIME达70.0%,MATH-500达94.5%,Codeforces达1,633。DeepSeek产品协议明确支持用户进行“模型蒸馏”,允许用户利用模型输出、通过模型蒸馏等方式训练其他模型。这一策略使拥有应用场景的企业或机构可以基于DeepSeek-R1蒸馏适合自身垂类领域的小模型,在端侧设备上部署高性能推理能力。蒸馏技术的突破解决了端侧AI长期面临的“算力有限、内存受限”约束——70亿参数模型在Int4精度下仅需4-8GB内存,可运行于中高端手机;32B模型在Int4下需7.8-11GB,适配更高端设备。

全球端侧AI市场2032年达1436亿美元,小模型可部署性持续提升

全球端侧AI市场正处于爆发前夜。端侧AI全球市场规模预计从2022年152亿美元增长至2032年1,436亿美元,近十倍增长,制造、汽车、消费品等多个行业对边缘AI解决方案需求迫切。自2023年起,参数量低于10B的模型系列(如Meta的LLaMA、Microsoft的Phi系列)涌现,LLMs在边缘设备上运行的可行性逐步明朗。DeepSeek模型蒸馏进一步降低了端侧部署门槛——1.5B小模型可在智能手表、耳机等轻量化设备运行,7B/8B模型可在中高端手机和PC运行,32B/70B模型可适配更高端设备。在存储和功耗层面,DeepSeek-R1-Distill-Qwen-1.5B在AIME达28.9%,虽然不及大模型但已可满足基本推理需求。产业链层面,AI手机2028年渗透率预计达54%,AI PC 2025年出货量预计达1.14亿台(同比+165%),端侧AI设备数量的爆发式增长将直接拉动对端侧推理芯片、存储和模型部署方案的需求。
DeepSeek-R1蒸馏小模型性能对比
蒸馏模型AIME 2024 pass@1MATH-500Codeforces适用设备
Qwen-32B72.6%93.9%1,691高端手机/PC
Qwen-14B69.7%93.9%1,481中高端手机
Qwen-7B55.5%92.8%1,189中端手机
Qwen-1.5B28.9%83.7%954轻量化设备
OpenAI o1-mini63.6%90.0%1,820

端侧AI产业链机会——手机、PC、汽车、眼镜四大赛道

端侧AI的渗透正在推动四大终端赛道的变革。AI手机方面,Canalys预测2024年AI手机渗透率16%,2028年升至54%。DeepSeek等小模型可在手机端本地运行推理任务,保护隐私、降低延迟、节省带宽。高通、联发科、苹果等SoC厂商已将NPU作为标配,算力从数TOPS到数十TOPS。AI PC方面,Gartner预测2025年AI PC出货量达1.14亿台(渗透率43%),NPU成为PC标配。AI汽车方面,比亚迪整车智能“璇玑架构”全面接入DeepSeek R1,提升车载AI能力。AI眼镜方面,Meta、百度、小米、三星等计划2025年发布AI智能眼镜,端侧小模型可支持本地语音交互、物体识别、实时翻译等任务。从产业链看,上游受益于端侧AI算力需求增长的包括:AI芯片(NPU升级)、存储(内存容量提升)、感知传感器;中游受益于模型蒸馏和部署方案的包括:AI模型优化服务商、端侧推理引擎;下游受益于终端产品AI化的包括:手机、PC、汽车、眼镜等品牌商。推荐关注:软通动力(华为昇腾生态+鸿蒙)、中科创达(端侧AI操作系统)、乐鑫科技(AIoT Wi-Fi MCU)、移远通信(蜂窝模组+AI边缘计算)。DeepSeek开源生态+模型蒸馏能力将加速端侧AI从“高端旗舰”向“全价位段”普及。
客服
商务合作
小程序
服务号
折叠