量子位:2023 AIGC算力全景与趋势报告(41页).pdf

编号:133718 PDF  PPTX 41页 2.68MB 下载积分:VIP专享
下载报告请您先登录!

1、Q童子位InsightsAIGC算力全景与趋势报告分析师:丁乔量子位智库QbitAlInsights#page#nsights2023年无疑是AIGC元年,ChatGPT引发的各类大模型竞赛中,行业内绕不开的一个话题便是算序言力从何而来。算力目前已经在AIGC产业内形成新共识一算力成为AIGC发展的关键基石。随着英伟达今年一系列不断推陈出新的产品动作,可以看到国际上最先进的算力厂商如今已迈向由超级芯片组成的算力集群阶段。此外,算力厂商也无疑成为AIGC产业下的率先受益方。然而,随着大模型参数的不断增长,OpenAl近期表明算力成为其发展的挑战之一。在AIGC产业繁荣的当下,可以预见的是未来对算

2、力的需求会越来越大。那么,在这场AIGC盛宴中,应该如何应对当下面临的算力危机呢?在AIGC算力全景与超势报告中,量子位智库将从我国算力产业现状、算力产业变革、超势预判等角度出发,通过广泛调研与深度分析,全面立体描绘我国当前AIGC算力产业全景与趋势。我们期待,能够与众多投入、关注、期待中国AIGC算力产业的伙伴一起,共同见证并打造中国AIGC算力产业的蓬勃未来。#page#page#oghtsAIGC驱动,算力产业机遇空前01insights#page#AIGC潮起,算力产业挑战巨大,机遇空前insightsOpenAI发布ChatGPT属于GPT系列中的聊天机器人模型。GPT系列中,GPT

3、3是由1750亿参数组成的语言模型,而GPT4的参数更是达万亿级别。国内目前公布的大模型参数规模也普遍在百亿至千亿级别。如此庞大的参数规模,对于芯片提供商、云服务厂商以及服务器厂商都产生了新需求。全球范围内,GPT具备从底层改变各行业规则的能力,作为AIGC产业的基建,算力产业在未来有望成为一项公共服务渗透入各行各业。基于此,智算中心作为公共算力基础设施,成为AIGC基建中的关键环节。大模型参数量变化游戏规则被改写,MaaS能力成为竞争的关键变量云计算厂商在算力需求暴涨、数据和模型资源稀缺、AI技术广泛智算中心落地背景下,智算中心成为地区AI新基建大模型训练驱动AI服务器需求暴涨,并且正在催生

4、新服务器厂商物种:AI模型一体机GPU为核心的AI训练芯片供不应求,是AIGC算力产业芯片最大挑战和最大机遇ionisBeautiful来源:Inforn#page#芯片:大模型训练需求暴涨,GPU供不应求nsights需求当前大模型参数量在百亿至千亿参数规模,在训练阶段,对芯片的需求从CPU+加速器转变为以GPU主导的大规模并行计算。未来,当多数大模型参数规模到达万亿级别,将产生更大的算力需求。在单芯片性能之上,智算中心能够通过算力的生产-调度-聚合-释放,支持AI产业化发展。缺口目前市场对于英伟达芯片的需求远大于供给。经测算,一万枚英伟达A100芯片是做好AI大模型的算力门槛。国内具备此量

5、级的公司最多只有1家,而GPU芯片持有量超过一万枚的企业不超过5家。算力需求微调阶段推理阶段(日常运营)训练阶段(单次成本)单次GPT-3Small(1.25亿)计算量2.6PFlops/天预计算力ChatGPT2023年2月官网总访问量11亿次;1350.4PFlops/天单次GPT-3XL计算量为27.5PFlops/天用户每次与ChatGPT互动的云计算成本成为约0.01美元;单次GPT-3(175B)计算量3640PFLops/天保守预估,假设用户每次访问网站只进行一次互动芯片需求芯片需求芯片需求GPT3(175B)3640PFLops:35000块A100/113000块A100/1

6、天或433块A100跑1个月采用A100或V100设备天或1024块A100跑1个月成本成本成本成本:920万月单次训练成本:1200万美元运营的算力成本:1100万美元/月来源:阿里公开资料,量子位智库整理#page#nsights服务器:业务增长显著,高端芯片AI服务器火爆。现状AIGC产业的发展将加剧AI服务器行业的增长速度,国产服务器厂商普遍业务增量在30%以上;国内市场中,服务器重新进入洗牌期。需求超势由于AIGC对于高性能计算的需求,云厂商在服务器的选择上以AI服务器为主。据IDC数据,2025年全球AI服务器市场规模将达317.9亿美元,年复合增长率为19%。英伟达GPU短期内面

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(量子位:2023 AIGC算力全景与趋势报告(41页).pdf)为本站 (蓝色烟花) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠