当前位置:首页 > 报告详情

科技前瞻专题:AI ASIC:算力芯片的下一篇章-241216(42页).pdf

上传人: 蓝*** 编号:185454 2024-12-17 42页 5.85MB

下载:

1、科技前瞻专题 AI ASIC:算力芯片的下一篇章 西南证券研究发展中心 海外研究团队 2024年12月 西南证券研究发展中心 海外研究团队 2024年12月 1 ASIC 可以适应不同的业务场景和商业模式的需求,可以满足大型CSP客户的诸多需求:1)内部工作负载的架构优化;2)更低的功耗,更低的成本;3)为AI工作负载定制的内存和I/O架构。随着AI应用的发展和生态逐步完善,AI算力集群特别是推理集群对加速计算芯片需求巨大,驱动ASIC快速成长。预计2028年数据中心 ASIC 市场规模将提升至429亿美元,CAGR为45.4%。ASIC针对特定算法和应用进行优化设计,在特定任务上的计算能力强

2、大,通常具有较高的能效比。目前ASIC以推理场景应用为主,并开始切入到部分训练环节。对照北美四大CSP的自研产品路线:Google的TPU出货目前以v5产品为主,2025年将量产TPU v6;亚马逊的ASIC产品包括Trainium和Inferentia,分别用于训练和推理环节;微软和Meta也推出了各自的ASIC产品Maia 100和MTIA。由于大型CSP的业务模型、应用场景等多通过自身云来承载,每个云承载了独特的应用和商业模型,包括内部应用(比如搜索引擎、社交媒体等)、SaaS服务(比如AI聊天机器人、Copilot等)、IaaS服务等,自研ASIC可适应自身不同的业务场景和商业模式的需

3、求。相关标的:1)博通:全球AI ASIC龙头,目前已向多家头部CSP客户批量供应ASIC产品,其在计算,存储,网络IO,封装等领域广泛的IP储备可为其XPU产品线赋能。2)Marvell:全球一线ASIC厂商,其定制计算产品包括AI加速芯片,针对安全、NIC/DPU、ARM计算、存储、视频和CXL功能的ASIC等,客户包括北美头部云厂商。风险提示:AI产业发展不及预期的风险;大型科技企业资本支出不及预期的风险;GPU竞争的风险。投 资 逻 辑 目 录 1 ASIC芯片市场前景 2 ASIC与GPU的对比 4 相关标的 3 北美四大CSP自研AI ASIC 2 3 大型CSP在资本支出方面投入

4、巨大,支出的同比增速在加快。北美四大CSP的Capex规模今年来增幅显著提升,2024年前三季度整体规模达到1708亿美元,同比增长56%,且yoy逐季加快(Q1-Q3 yoy分别为34.7%、64.6%、68%)。其中,微软530亿美元,yoy+78.5%;亚马逊551.7亿美元,yoy+44.6%;谷歌382.6亿美元,yoy+79%;Meta 243.9亿美元,yoy+20.7%。资本支出大幅提升的背后,是各家巨头在AI赛道上的竞赛、AI算力的稀缺、AI云赋能和AI生态的拓展等多方面驱动。1.1 大型CSP加速资本支出 数据来源:各公司公告,西南证券整理 北美四大CSP资本支出规模(亿美

5、元)4 大型CSP的业务模型、应用场景等很多通过自身的云来承载,每个云承载了独特的应用和商业模型,包括内部应用(比如搜索引擎、社交媒体等)、SaaS服务(比如AI聊天机器人、Copilot等)、IaaS服务等。ASIC 可以适应不同的业务场景和商业模式的需求。ASIC可以满足客户的需求:1)内部工作负载的架构优化;2)更低的功耗,更低的成本;3)为AI工作负载定制的内存和I/O架构。1.2 ASIC可适应不同的业务场景和商业模式的需求 数据来源:Marvell,西南证券整理 ASIC需要满足不同业务/应用的加速计算需求 5 目前在训练阶段,训练集群对加速计算芯片的需求已提升到万卡级别。随着AI

6、模型对训练需求的提升,未来10万卡级别指日可待。而在推理阶段,由于计算量与业务和应用密切相关,单个推理集群对加速计算芯片的需求低于训练集群,但推理集群的部署数量要远多于训练集群,推理集群的数量预计会达到百万级别。AI算力集群特别是推理集群对加速计算芯片的庞大需求,是ASIC快速成长的核心驱动力。1.3 训练和推理集群对加速计算芯片的需求 数据来源:Broadcom,Marvell,西南证券整理 训练和推理对AI算力集群的需求差异 6 据Marvell预测,2023年 ASIC 占数据中心加速计算芯片的16%,规模约为66亿美元;随着 AI 计算需求的增长,ASIC 占比有望提升至25%,预计2

word格式文档无特别注明外均可编辑修改,预览文件经过压缩,下载原文更清晰!
三个皮匠报告文库所有资源均是客户上传分享,仅供网友学习交流,未经上传用户书面授权,请勿作商用。
本文主要内容为科技前瞻专题AI ASIC:算力芯片的下一篇章。文章指出,随着AI应用的发展和生态逐步完善,AI算力集群特别是推理集群对加速计算芯片需求巨大,驱动ASIC快速成长。预计2028年数据中心ASIC市场规模将提升至429亿美元,CAGR为45.4%。ASIC针对特定算法和应用进行优化设计,在特定任务上的计算能力强大,通常具有较高的能效比。目前ASIC以推理场景应用为主,并开始切入到部分训练环节。文章还分析了北美四大CSP的自研产品路线,包括谷歌的TPU、亚马逊的Trainium和Inferentia、微软的Maia 100和Meta的MTIA。最后,文章提到了博通和Marvell两家公司,博通AI业务占比从2019年的低于5%提升至2023年的15%,预计2024年实现超过100亿美元的收入体量,占公司整体收入比例增长至35%。Marvell的AI业务2023财年为2亿美元左右,预计24-26财年加速AI业务收入从5.5亿提升至25亿美元。
谷歌TPU如何优化AI模型训练和推理? ASIC与GPU在AI应用中各有哪些优势? 博通和Marvell在AI ASIC领域的发展前景如何?
客服
商务合作
小程序
服务号
折叠