您的当前位置:首页 > 标签 > 苹果AI硬件内存创新
【东吴证券】电子行业深度报告:端侧AI:模型创新快速迭代,看好苹果引领AI硬件起飞-250223(21页).pdf
苹果AI硬件内存创新:7B模型需14GB DRAM,独立封装+WMCM破解内存瓶颈|东吴证券
东吴证券研报显示,半精度7B模型参数加载超14GB DRAM,DRAM耗能比计算高千倍。苹果合作三星研发独立封装(提升带宽/散热),2026年WMCM封装灵活集成CPU/GPU/NPU。安卓iOS内存占用差异巨大。
 2026-07-30
 电子行业
 21页
1张图表
数据来源:
【东吴证券】电子行业深度报告:端侧AI:模型创新快速迭代,看好苹果引领AI硬件起飞-250223(21页) 查看报告
内存正成为端侧AI硬件最核心的变革方向。东吴证券研报显示,半精度7B模型参数加载占用DRAM超14GB,而DRAM耗能比计算操作高两个数量级(6400pJ vs 3pJ)。7B模型以10Token/s速度运行,满电iPhone(约50kJ)支持不到2小时。苹果正通过三大内存创新应对瓶颈:合作三星研发独立封装替代PoP堆叠式封装、推进LPDDR6-PIM技术、2026年转向WMCM封装方式。安卓与iOS内存利用效率差异巨大,安卓需在OS层统一AI基础模型,iOS需提高硬件内存。

内存是端侧AI核心瓶颈,DRAM耗能比计算高千倍

端侧AI推理对内存的消耗远超一般应用。苹果论文《LLM in a flash》指出,在LLM推理阶段,仅将半精度7B模型的参数加载入DRAM所需空间就超过14GB。Meta指出SRAM缓存约20MB仅能容纳一个Transformer块,而DRAM要与系统和其它应用共享,单个应用不应超过DRAM的10%,留给模型的DRAM空间更为有限。

内存读取的能耗问题更为严峻。根据论文《EIE》,在相同精度下,DRAM耗能(640pJ)比SRAM耗能(5pJ)高两个数量级,比计算操作(0.1-3.7pJ)高出数百甚至上千倍。内存读取是端侧AI推理的主要耗能项。按每10亿参数生成1token耗能0.1J计算,满电iPhone(约50kJ)以10Token/s速度运行7B模型不到2小时。能耗增加同时带来严重的散热问题。

当前主流手机SoC中,苹果在内存/电池/散热上提升空间巨大。苹果iPhone最新DRAM容量仅8GB,安卓旗舰最高24GB;iPhone 16 Pro Max电池4685mAh,小米15 Pro为6100mAh。苹果虽然优先拿到最先进制程,但设备功耗极限潜力因散热限制无法充分发挥。
计算与存储操作能耗对比(45nm工艺)
操作类型能耗(pJ)相对成本
32 bit int ADD0.11
32 bit float ADD0.93
32 bit 32KB SRAM550
32 bit DRAM6406400

安卓与iOS内存利用效率差异巨大

iOS在内存利用效率上远高于安卓。根据Android authority测试,相同应用在iOS的内存占用远低于安卓——Gmail在iOS占用190MB、安卓占用259MB;YouTube在iOS占用176MB、安卓占用282MB;Twitter在iOS占用100MB、安卓占用366MB。主要原因是安卓为消除硬件差异性,代码运行在虚拟机中需编译为中间语言,而iOS则是原生编写因此内存占用较小。

游戏方面差异相对较小——游戏引擎均为原生编写,iOS和安卓内存占用差异收窄,但安卓仍普遍略高。同时在国内由于安卓监管较少,各App为保活留存后台、集成额外功能等也增加了App的内存占用。

这意味着安卓和iOS需要采取不同的AI内存优化策略:安卓需要在OS层提供统一的AI基础模型以消除碎片化内存消耗;iOS在模型压缩之外,需要提高硬件内存以克服单个功能占用大量内存的硬件瓶颈。

苹果内存创新:独立封装、PIM技术、WMCM封装

苹果正与三星合作研发独立封装形式。韩媒The Elec报道,三星应苹果要求开始研究新的LPDDR DRAM封装方式——独立封装,改变2010年起iPhone沿用至今的PoP堆叠式封装(内存直接叠在SoC上通过Pitch连接)。PoP技术因芯片过于靠近,端侧AI负载下带宽和散热问题严重。独立封装可增加I/O引脚数量、提高数据传输速率和并行通道数量,并改善散热性能,显著提高内存带宽。

三星还尝试在iPhone DRAM中应用LPDDR6-PIM(内存内置存储器)技术,数据传输速度和带宽是LPDDR5X的两到三倍,专为设备端AI设计。

预计2026年苹果芯片封装将从InFO(集成扇出型)改为WMCM(晶圆级芯片封装)方式。WMCM可将多芯片集成在同一封装中,CPU、GPU、DRAM、NPU等灵活排列集成。WMCM在信号传输方面表现出色,能减少信号延迟和干扰,对需要高速数据处理的AI设备尤为重要。
客服
商务合作
小程序
服务号
折叠