内存正成为端侧AI硬件最核心的变革方向。东吴证券研报显示,半精度7B模型参数加载占用DRAM超14GB,而DRAM耗能比计算操作高两个数量级(6400pJ vs 3pJ)。7B模型以10Token/s速度运行,满电iPhone(约50kJ)支持不到2小时。苹果正通过三大内存创新应对瓶颈:合作三星研发独立封装替代PoP堆叠式封装、推进LPDDR6-PIM技术、2026年转向WMCM封装方式。安卓与iOS内存利用效率差异巨大,安卓需在OS层统一AI基础模型,iOS需提高硬件内存。
内存是端侧AI核心瓶颈,DRAM耗能比计算高千倍
端侧AI推理对内存的消耗远超一般应用。苹果论文《LLM in a flash》指出,在LLM推理阶段,仅将半精度7B模型的参数加载入DRAM所需空间就超过14GB。Meta指出SRAM缓存约20MB仅能容纳一个Transformer块,而DRAM要与系统和其它应用共享,单个应用不应超过DRAM的10%,留给模型的DRAM空间更为有限。
内存读取的能耗问题更为严峻。根据论文《EIE》,在相同精度下,DRAM耗能(640pJ)比SRAM耗能(5pJ)高两个数量级,比计算操作(0.1-3.7pJ)高出数百甚至上千倍。内存读取是端侧AI推理的主要耗能项。按每10亿参数生成1token耗能0.1J计算,满电iPhone(约50kJ)以10Token/s速度运行7B模型不到2小时。能耗增加同时带来严重的散热问题。
当前主流手机SoC中,苹果在内存/电池/散热上提升空间巨大。苹果iPhone最新DRAM容量仅8GB,安卓旗舰最高24GB;iPhone 16 Pro Max电池4685mAh,小米15 Pro为6100mAh。苹果虽然优先拿到最先进制程,但设备功耗极限潜力因散热限制无法充分发挥。
内存读取的能耗问题更为严峻。根据论文《EIE》,在相同精度下,DRAM耗能(640pJ)比SRAM耗能(5pJ)高两个数量级,比计算操作(0.1-3.7pJ)高出数百甚至上千倍。内存读取是端侧AI推理的主要耗能项。按每10亿参数生成1token耗能0.1J计算,满电iPhone(约50kJ)以10Token/s速度运行7B模型不到2小时。能耗增加同时带来严重的散热问题。
当前主流手机SoC中,苹果在内存/电池/散热上提升空间巨大。苹果iPhone最新DRAM容量仅8GB,安卓旗舰最高24GB;iPhone 16 Pro Max电池4685mAh,小米15 Pro为6100mAh。苹果虽然优先拿到最先进制程,但设备功耗极限潜力因散热限制无法充分发挥。
| 操作类型 | 能耗(pJ) | 相对成本 |
|---|---|---|
| 32 bit int ADD | 0.1 | 1 |
| 32 bit float ADD | 0.9 | 3 |
| 32 bit 32KB SRAM | 5 | 50 |
| 32 bit DRAM | 640 | 6400 |
安卓与iOS内存利用效率差异巨大
iOS在内存利用效率上远高于安卓。根据Android authority测试,相同应用在iOS的内存占用远低于安卓——Gmail在iOS占用190MB、安卓占用259MB;YouTube在iOS占用176MB、安卓占用282MB;Twitter在iOS占用100MB、安卓占用366MB。主要原因是安卓为消除硬件差异性,代码运行在虚拟机中需编译为中间语言,而iOS则是原生编写因此内存占用较小。
游戏方面差异相对较小——游戏引擎均为原生编写,iOS和安卓内存占用差异收窄,但安卓仍普遍略高。同时在国内由于安卓监管较少,各App为保活留存后台、集成额外功能等也增加了App的内存占用。
这意味着安卓和iOS需要采取不同的AI内存优化策略:安卓需要在OS层提供统一的AI基础模型以消除碎片化内存消耗;iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。
游戏方面差异相对较小——游戏引擎均为原生编写,iOS和安卓内存占用差异收窄,但安卓仍普遍略高。同时在国内由于安卓监管较少,各App为保活留存后台、集成额外功能等也增加了App的内存占用。
这意味着安卓和iOS需要采取不同的AI内存优化策略:安卓需要在OS层提供统一的AI基础模型以消除碎片化内存消耗;iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。
苹果内存创新:独立封装、PIM技术、WMCM封装
苹果正与三星合作研发独立封装形式。韩媒The Elec报道,三星应苹果要求开始研究新的LPDDR DRAM封装方式——独立封装,改变2010年起iPhone沿用至今的PoP堆叠式封装(内存直接叠在SoC上通过Pitch连接)。PoP技术因芯片过于靠近,端侧AI负载下带宽和散热问题严重。独立封装可增加I/O引脚数量、提高数据传输速率和并行通道数量,并改善散热性能,显著提高内存带宽。
三星还尝试在iPhone DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍,专为设备端AI设计。
预计2026年苹果芯片封装将从InFO(集成扇出型)改为WMCM(晶圆级芯片封装)方式。WMCM可将多芯片集成在同一封装中,CPU、GPU、DRAM、NPU等灵活排列集成。WMCM在信号传输方面表现出色,能减少信号延迟和干扰,对需要高速数据处理的AI设备尤为重要。
三星还尝试在iPhone DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍,专为设备端AI设计。
预计2026年苹果芯片封装将从InFO(集成扇出型)改为WMCM(晶圆级芯片封装)方式。WMCM可将多芯片集成在同一封装中,CPU、GPU、DRAM、NPU等灵活排列集成。WMCM在信号传输方面表现出色,能减少信号延迟和干扰,对需要高速数据处理的AI设备尤为重要。
点击阅读报告原文:
最新报告
中英对照
全文搜索
报告精选
PDF上传翻译
多格式文档互转
入驻&报告售卖
会员权益
机构报告
券商研报
财报库
专题合集
英文报告
数据图表
会议报告
其他资源
新质生产力
DeepSeek
低空经济
大模型
AI Agent
AI Infra
具身智能
自动驾驶
宠物
银发经济
人形机器人
企业出海
算力
微短剧
薪酬
白皮书
创新药
行业分析
个股研究
年报财报
IPO招股书
会议纪要
宏观策略
政策法规
其他
人工智能
信息科技
互联网
消费经济
汽车交通
电商零售
传媒娱乐
医疗健康
投资金融
能源环境
地产建筑
传统产业
英文报告
其它
行业聚焦
芯片产业
热点概念
全球咨询智库
人工智能
500强
新质生产力
会议峰会
新能源汽车
企业年报
互联网
公司研究
行业综观
消费教育
科技通信
医药健康
人力资源
投资金融
汽车产业
物流地产
电子商务
传统产业
传媒营销
其它
十五五规划系列报告合集(共50套打包)
2026年宠物经济/它经济报告合集(共46套打包)
AI、科技与通信
广告、传媒与营销
消费、零售与支付
HR、文化与旅游
金融、保险与投资
能源、环境与工业
医疗制药与大健康
物流、地产与建筑
其他行业
AI ▪ 科技 ▪ 通信
数字化
金融财经
智能制造
电商传媒
地产建筑
医疗医学
能源化工
其他行业

收藏
下载
2026-07-20

AI查数
行业数据
政策法规
商业模式
产业链
竞争格局
市场规模
产业概述
自研数据
其它
2026年
AI读财报
年报
一季报
半年报
三季报
IPO招股书
社会责任报告
A股
IPO申报
港股
美股&全球
新三板
2026-07-30
电子行业
21页
1张图表
0731-84720580
商务合作:really158d
友链申请 (QQ):1737380874
微信扫码登录
手机快捷登录
账号登录