生成式人工智能行业专题研究：海外大模型篇生成式AI加速创新行业迎历史性机遇-240329（47页）.pdf

1、生成式生成式AI加速创新，行业迎历史性机遇加速创新，行业迎历史性机遇计算机行业计算机行业分析师：耿军军邮箱：SAC执业资格证书编码：S0020519070002联系人：王朗邮箱：生成式人工智能行业专题研究：海外大模型篇生成式人工智能行业专题研究：海外大模型篇投资评级推荐维持证券研究报告证券研究报告2024年年3月月29日日请务必阅读正文之后的免责条款部分请务必阅读正文之后的免责条款部分目录目录 第一部分：生成式第一部分：生成式AI快速发展，技术奇点有望到来快速发展，技术奇点有望到来 第二部分：技术创新百花齐放，海外巨头引领创新第二部分：技术创新百花齐放，海外巨头引领创新 第三部分：风险提示第三

2、部分：风险提示2PBmVlX8YlYnVlW6MbP7NsQrRoMtPkPnNqMiNmMoM7NnMrRuOrRpMxNpOrO请务必阅读正文之后的免责条款部分请务必阅读正文之后的免责条款部分1.1 发展历程：算法模型持续迭代，发展历程：算法模型持续迭代，AI行业快速发展行业快速发展3资料来源：信通院人工智能生成内容(AIGC)白皮书，CSDN官网，阿里云开发者社区，NIH Record官网，MIT官网，51CTO官网，机器之心官网，腾讯云开发者社区，科技行者官网，雷锋网，澎湃新闻网，winbuzzer官网，MBA百科，Geekwire官网，datamarketinglabs官网，安全客官

3、网，AIGC开放社区公众号，IT之家官网，OpenAI官网，36氪官网，国元证券研究所请务必阅读正文之后的免责条款部分请务必阅读正文之后的免责条款部分1.1 发展历程：算法模型持续迭代，发展历程：算法模型持续迭代，AI行业快速发展行业快速发展41基础的生成算法模型是基础的生成算法模型是驱动驱动AI的关键的关键2014年，伊恩古德费洛(lan Goodfellow)提出的生成对抗网络(Generative Adversarial Network,GAN)成为早期最为著名的生成模型。GAN使用合作的零和博弈框架来学习，被广泛用于生成图像、视频、语音和三维物体模型。随后，Transformer、基于

4、流的生成模型(Flow-based models)、扩散模型(Diffusion Model)等深度学习的生成算法相继涌现。Transformer模型是一种采用自注意力机制的深度学习模型，这一机制可按输入数据各部分的重要性分配权重，可用于自然语言处理(NLP)、计算机视觉(CV)领域应用，后来出现的BERT、GPT-3、laMDA等预训练模型都是基于Transformer模型建立的。图：图：AIGC技术累积融合技术累积融合资料来源：腾讯研究院AIGC发展趋势报告，国元证券研究所请务必阅读正文之后的免责条款部分请务必阅读正文之后的免责条款部分1.1 发展历程：算法模型持续迭代，发展历程：算法模型

5、持续迭代，AI行业快速发展行业快速发展51基础的生成算法模型是基础的生成算法模型是驱动驱动AI的关键的关键模型模型提出时间提出时间模型描述模型描述变分自动编码(VariationalAutoencoders,VAE)2014年基于变分下界约束得到的Encoder-Decoder模型对。生成对抗网络(GAN)2014年基于对抗的Generator-Discriminator模型对。基于流的生成模型(Flow-based models)2015年学习一个非线性双射转换(bijective transformation)，其将训练数据映射到另一个空间，在该空间上分布是可以因子化的，整个模型架构依靠直

6、接最大化log-likelihood来完成。扩散模型(Diffusion Model)2015年扩散模型有两个过程，分别为扩散过程和逆扩散过程。在前向扩散阶段对图像逐步施加噪声，直至图像被破坏变成完全的高斯噪声，然后在逆向阶段学习从高斯噪声还原为原始图像的过程。经过训练，该模型可以应用这些去噪方法，从随机输入中合成新的“干净”数据。Transformer模型2017年一种基于自注意力机制的神经网络模型，最初用来完成不同语言之间的文本翻译任务，主体包含Encoder和Decoder部分，分别负责对源语言文本进行编码和将编码信息转换为目标语言文本。神经辐射场(Neural Radiance Fie