北京智源人工智能研究院：端侧智能2026：规模化落地元年报告（43页）.pdf

核心结论速览： 面壁MiniCPM全球下载量突破3800万次，1B参数模型逼近GPT-4o：MiniCPM5-1B仅以1B参数规模，在国际权威榜单Artificial Analysis上取得17.9分，与2024年5月发布的200B参数GPT-4o榜单得分仅相差零点几分。密度定律正在把“高性能大模型装进终端”从设想变成工程现实。 端侧智能座舱SuperMate已完成超30万台量产交付：面壁智能自研的端侧智能座舱方案SuperMate基于MiniCPM端侧大模型，已在多款量产车型的高通骁龙智能座舱平台上实现搭载交付。已构建68个可量产亮点场景，覆盖主动安全、便捷出行、私密关怀等核心用车场景。 FlagOS统一软件栈已支持18家厂商32款AI芯片：北京智源人工智能研究院牵头打造的众智FlagOS开源统一软件栈，2026年6月发布的FlagOS 2.1已实现对18家厂商、32款AI芯片的全场景支持。FlagGems算子库拥有510+个算子，是全球最大的多芯片算子库。FlagCX统一通信库实现了国家标准与ITU国际标准的“双立项”。 密度定律：大模型能力密度约每100天翻一番：清华大学相关团队提出“能力密度”概念，成果于2025年作为封面文章发表于《自然·机器智能》。模型能力密度约每3.5个月翻一番。这一规律意味着今天需要8B才能胜任的任务，100天后可能4B就能完成。 云端推理面临四重现实约束，倒逼产业向端侧转向：成本方面，豆包大模型日均Token调用量已突破180万亿；时延方面，自动驾驶要求10-50毫秒级响应；隐私方面，《个人信息保护法》与GDPR持续收紧；稳定性方面，弱网断网环境下纯云端方案存在可用性短板。 端侧智能正从“被动助手”走向“主动智能体”：终端将从“被动应答”走向“主动感知与任务执行”。中国企业级AI智能体市场预计2026年将达449亿元，至2029年有望突破3320亿元，年复合增长率高达107%。 MiniCPM已落地手机、汽车、具身智能、航天等多元终端：基于密度定律技术路线，MiniCPM已搭载于吉利银河M9、长安马自达EZ-60等车型的智能座舱。在手机端，vivo X Fold6搭载30亿参数端侧蓝心大模型。H2：密度定律——端侧智能的“摩尔定律”。能力密度：每100天翻一番。2024年底，清华大学孙茂松、刘知远团队与开源社区OpenBMB提出“能力密度”概念，用以衡量大模型单位参数内蕴含的智能水平，相关成果《Densing Law of LLMs》于2025年作为封面文章发表于《自然·机器智能》。密度定律的结论极具穿透力：大模型的最大能力密度随时间呈指数增长，约每3.3至3.5个月翻一番。这意味着每隔约一百天，只需一半参数量的模型即可达到当前最优性能。与摩尔定律的交汇：两条曲线决定端侧智能。芯片在同等价格下的算力约每两年翻一倍，而模型的能力密度约每一百天翻一倍。前者决定了终端“能装下多大的模型”，后者决定了“同样大小的模型能有多聪明”。两条曲线的交汇，正把“高性能大模型装进终端”从设想变成工程现实。1B vs 200B：端侧模型的密度优势。截至2026年7月，MiniCPM系列全球下载量突破3800万次、GitHub星标超过14万。其2026年5月发布的MiniCPM5-1B，仅以1B参数规模，在国际权威榜单Artificial Analysis上取得17.9分的成绩，与2024年5月发布的200B参数GPT-4o榜单得分仅相差零点几分。这背后释放的信号十分明确：参数规模不再是荣誉勋章，“单位参数、单位能耗下的智能产出”才是新的硬指标。端侧模型的竞争力，从来不取决于参数有多大，而取决于能力密度有多高——能力密度，才是端侧智能真正的胜负手。H2：FlagOS——打通端侧落地的“最后一公里”。碎片化：端侧智能的“头号敌人”。端侧智能的能力供给（高密度模型）已经就绪，真正卡住规模化落地的，是部署侧的碎片化。端侧芯片架构天然多元——NPU、GPGPU、DSA、RISC-V、ARM等并存，每一款芯片都有自己的一套SDK、编译器与算子库，形成“N种模型×M种芯片×K种终端”的组合爆炸。一个模型每迁移到一款新芯片，就要重做一遍适配。FlagOS的解法：统一、开源的AI系统软件栈。FlagOS由北京智源人工智能研究院牵头，联合北大、清华、中科院计算所等科研机构，以及十多家芯片厂商共同打造。2026年6月发布的FlagOS 2.1已实现对18家厂商、32款AI芯片的全场景支持，成为全球支持芯片种类最多的AI系统软件栈。四大核心库的价值：FlagGems：采用“1+6”布局，拥有510+个算子，是全球最大的多芯片算子库，已进入PyTorch基金会生态合作项目。针对40个主流模型的推理任务，算子覆盖度达到90%至100%。FlagTree：统一编译器已支持12家厂商、20种芯片，通过统一中间表示层FLIR与新编程语言Triton-TLE，让“支持多后端”升级为“共享中间优化”。FlagCX：统一通信库已支持9家芯片厂商与5大网络协议，推动《人工智能统一通信库接口规范》实现了国家标准与ITU国际标准的“双立项”。FlagRelease：借助智能体驱动的自动迁移，把开源模型的跨芯迁移与发版效率提升约4倍。统一软件栈的战略价值。如果说“能力密度”解决了端侧模型“够不够聪明”的问题，FlagOS解决的则是“能不能跑遍所有终端”的问题——前者是引擎，后者是把引擎装进千差万别车身的通用底盘。统一软件栈把“多元芯片→自主推理框架→高能力密度端侧基座模型”这条自主闭环，从愿景变成了可落地的工程路径。H2：面壁智能——端侧AI的先行者与产业标杆。MiniCPM：全球最受欢迎的中国开源模型之一。截至2026年6月30日，面壁MiniCPM开源模型系列累计下载量突破3800万次，覆盖文本、视觉、语音全模态。基于密度定律技术路线，MiniCPM已落地手机、汽车、具身智能、航天等多元终端。面壁智能是国内第一个布局端侧大模型、第一个落地端侧量产交付、第一个全栈All in端侧AGI的先行者。SuperMate：端侧智能座舱率先跑通商业闭环。面壁智能自研的端侧智能座舱方案SuperMate，基于MiniCPM端侧大模型，已在多款量产车型的高通骁龙智能座舱平台上实现搭载交付。截至目前，SuperMate已完成超30万台车辆的量产交付。SuperMate已构建68个可量产亮点场景，覆盖主动安全、便捷出行、私密关怀等核心用车场景。与此前行业普遍采用的“云端语音助手”不同，SuperMate作为“无感智能”的车端智能体，无需联网即可完成复杂的感知、决策与执行操作。面壁智能CEO李大海预计，2026年底将有30万辆汽车搭载其端侧模型。端侧智能的多元化落地。MiniCPM系列已搭载于吉利银河M9、长安马自达EZ-60等车型的智能座舱。面壁智能已与TINNOVE梧桐科技深化合作，共同探索下一代AI座舱。在具身智能领域，面壁智能与吉利汽车、乐聚机器人开展深度合作，形成面向工业制造与商业服务的双线布局。H2：四重约束倒逼端侧转向。成本约束：Token调用量爆发式增长。截至2026年6月，豆包大模型日均Token调用量已突破180万亿，较去年增长超过10倍。Broadcom《2026年私有云展望》显示，62%的IT领导者对生成式AI和智能体AI的基础设施成本表示高度担忧。时延约束：云端往返无法满足实时交互。对于语音助手、实时翻译、AR交互、智能座舱、工业控制和自动驾驶等场景，延迟会直接影响交互流畅度乃至安全边界。自动驾驶场景通常要求10-50毫秒级响应。隐私约束：敏感数据“不出端”成为刚需。《个人信息保护法》要求个人信息处理应在充分知情前提下取得个人同意；《数据安全法》及配套标准则强调数据分类分级保护。欧盟GDPR将合法、公平、透明以及数据最小化列为重要原则。稳定性约束：弱网断网场景需本地兜底。地下车库、隧道、电梯、矿山、船舶等场景中，网络连接经常出现弱网、断网。纯云端AI即使模型能力再强，也会因无法连接远端服务而无法响应。端侧推理的四重价值。本地推理将响应延迟从秒级压缩到毫秒级，敏感数据“不出端”，弱网断网可用，基于私有数据持续学习。业界正在形成的共识，是“端侧为主、云端为辅，优先在本地处理、解决不了再上云”的混合架构。H2：端侧智能体——从“被动助手”到“主动智能体”。端侧智能的技术演进，正在从“端侧模型部署”进一步走向“端侧智能体构建”。前者强调将模型压缩、量化并部署到终端设备上；后者则要求模型在终端本地形成“感知—记忆—规划—调用—执行—反馈”的闭环能力。端侧智能体的五类能力模块。第一是多模态感知模块，通过摄像头、麦克风、屏幕内容、传感器信号形成对用户、设备与环境的实时理解；第二是本地记忆模块，将用户偏好、历史交互、设备状态和私有知识存储在终端侧；第三是任务规划模块，将自然语言意图转化为可执行的任务序列；第四是工具调用与系统执行模块，通过API、操作系统接口或设备控制接口完成具体操作；第五是反馈与自校正模块，根据执行结果和用户反馈对后续行为进行调整。市场规模的印证。中国企业级AI智能体市场2024年为86亿元，2025年跃升至212亿元，预计2026年将达到449亿元，至2029年有望突破3320亿元，年复合增长率高达107%。AI智能体正在把手机从“应用的容器”变成“任务的执行者”——入口之争，从App Store转向Agent OS。H2：端侧智能的产业定位与未来判断。端云协同的分层体系。云端大模型凭借海量算力、通用知识和复杂推理能力，定义AI能力的上限；行业模型在金融、医疗、司法、汽车、工业等垂直场景中完成专业知识注入；端侧模型更贴近用户、设备和现场，承担高频、实时、隐私敏感、离线可用和个性化服务等任务。三者并非替代关系，而是共同构成“云端提供能力上限、行业模型提供专业深度、端侧模型提供场景入口”的分层协同体系。未来3-5年六大趋势。第一，高能力密度模型将成为主流方向，重新定义“大”与“小”的边界；第二，端云协同将从“可选方案”固化为“默认架构”；第三，端侧多模态智能体将加速普及，带来交互范式的根本迁移；第四，统一软件栈与开源生态的重要性将持续上升；第五，终端厂商、芯片厂商与模型厂商将走向深度协同；第六，端侧智能的作用域将从消费电子持续向汽车、机器人与行业终端扩展。延伸阅读。以上为报告核心趋势分析，如需获取完整报告详细数据及全部案例，请访问下载页下载完整PDF报告。FAQ区块。Q1：MiniCPM为什么能以1B参数逼近GPT-4o？密度定律揭示了大模型能力密度约每100天翻一番的规律。MiniCPM5-1B仅以1B参数规模，在Artificial Analysis上取得17.9分，与200B参数GPT-4o得分仅相差零点几分。这说明端侧模型的竞争力不在于参数规模，而在于“单位参数、单位能耗下的智能产出”。Q2：SuperMate端侧智能座舱有什么特点？SuperMate是基于MiniCPM端侧大模型的无感智能车端智能体，无需联网即可完成复杂的感知、决策与执行操作。已构建68个可量产亮点场景，覆盖主动安全、便捷出行、私密关怀等核心用车场景。已完成超30万台车辆的量产交付。Q3：FlagOS为什么对端侧智能至关重要？FlagOS解决了端侧芯片架构多元导致的“N种模型×M种芯片×K种终端”组合爆炸问题。它提供了一套统一的开源系统软件栈，让模型可以在同一套栈上从云端一路贯通到手机、汽车与机器人。如果说“能力密度”解决了端侧模型“够不够聪明”的问题，FlagOS解决的则是“能不能跑遍所有终端”的问题。Q4：端侧智能为什么是2026年的产业共识？四重现实约束倒逼：成本（Token调用量爆发）、时延（自动驾驶需10-50毫秒响应）、隐私（敏感数据不出端）、稳定性（弱网断网需本地兜底）。同时，密度定律使端侧模型能力持续逼近云端，NPU算力已达100TOPS，FlagOS统一软件栈解决了部署碎片化问题。Q5：端侧智能体的市场前景如何？中国企业级AI智能体市场2024年86亿元→2025年212亿元→2026年449亿元→2029年3320亿元，CAGR高达107%。端侧智能体正在从“被动助手”走向“主动智能体”，终端将成为能够理解意图、组织工具和主动执行的智能操作环境。数据来源说明。本报告数据来源于北京智源人工智能研究院与端侧智能北京市重点实验室联合发布的《端侧智能2026：规模化落地元年》报告（2026年7月19日），以及Counterpoint、Gartner、头豹产业研究院、中信建投、ZEDEDA、IDC、科智咨询等公开数据。所有数据均基于报告原文及公开信息提取。