1、生成式人工智能对网络信息内容治理的挑战及其应对2026 年 4 月中国人民大学组长杨东中国人民大学法学院院长李铭轩中国人民大学讲师工作组成员徐枭雄中国人民大学讲师朱余韬中国人民大学讲师吴亚曦中国人民大学博士研究生吕昊然中国人民大学博士研究生中国人民大学法学院工作组前言在生成式人工智能快速发展的背景下，网络信息内容的生产模式正在发生深刻变革。随着生成式人工智能引发的网络信息内容风险日益凸显，亟需构建与生成式人工智能时代相适应的网络信息内容治理体系。本报告系统梳理生成式人工智能对网络信息内容生态的重塑，深入分析现有网络信息内容治理制度面临的挑战，结合人工智能监管的国际发展趋势，重点围绕生成式人工智

2、能内容识别、平台治理、责任分配等关键议题展开研究，提出完善人工智能生成内容治理的建议。目录一、生成式人工智能重塑网络信息内容生态（一）生成式人工智能的兴起（二）生成式人工智能变革网络信息内容生产（三）生成式人工智能引发网络信息内容风险二、生成式人工智能对网络信息内容治理的挑战（一）信息失序：生成内容的识别挑战（二）平台革命：新型平台的规则缺位（三）责任困境：内容损害的分配难题三、人工智能监管的国际发展趋势（一）美国：发展导向的弱监管模式（二）欧盟：安全导向的强监管模式（三）中国：发展与安全并重的中间道路四、完善人工智能生成内容治理的建议（一）内容识别：技术与制度协同发展（二）平台治理：新型平台

3、的规则构建（三）责任分配：内容损害的责任规则0101020204040506070707081010101101一、生成式人工智能重塑网络信息内容生态（一）生成式人工智能的兴起生成式人工智能是指“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”。1一种常用的人工智能分类方法是将其分为决策式人工智能和生成式人工智能。决策式人工智能学习数据中的条件概率分布，即一个样本归属于特定类别的概率，再对新的场景进行判断、分析和预测，典型的例子包括人脸识别、推荐系统、自动驾驶以及其他智能决策系统。2生成式人工智能则学习数据中的联合概率分布，即数据中多个变量组成的向量的概率分布，对已有的数据进

4、行总结归纳，并在此基础上创作全新的内容。3相较而言，决策式人工智能的底层技术相对成熟，也较早地在各领域得到广泛的应用。而生成式人工智能的发展突破则相对较晚，直到近年来才开始在应用层得到爆发式增长。4早在 20 世纪 50 年代，就已经出现了生成式人工智能的早期模型。研究人员提出了一些基础的统计模型，例如隐马尔可夫模型（HiddenMarkovModels,HMM）和高斯混合模型（GaussianMixtureModels,GMMs）。利用这些模型，人们尝试进行计算机辅助创作。一个著名的例子是 1957 年的IlliacSuite，它被认为是第一部由计算机创作的音乐作品。这时候的模型结构比较简单

5、，在应用时需要依赖大量人工编写的规则，开发成本高昂，因此生成式人工智能的发展比较缓慢。进入 21 世纪后，神经网络模型开始在各类任务上取得显著的效果，生成式人工智能技术也随之进步。特别是随着硬件技术的提升和深度学习算法的发展，人们可以训练更加深层的神经网络模型，而模型复杂度的提升带来了生成内容质量的飞跃。在计算机视觉领域，2014 年，IanGoodfellow等人提出了生成式对抗网络（GenerativeAdversarialNetworks,GANs），为图像生成领域带来里程碑式的进展，图像生成的效果达到了人类难以分辨的程度。5之后，StyleGan 模型、去噪扩散概率模型（Denoisi

6、ngDiffusionProbabilisticModel）等一系列模型进一步提升了图像生成的质量。在自然语言处理领域，2017 年，谷歌 AshishVaswani 等人提出了 Transformer 模型，成为自然语言生成的标杆模型。6之后，诸多预训练语言模型（如 BERT、GPT、BART）进一步提高了文本生成的质量。而最近的一项具有变革性意义的技术，便是大语言模型。这一技术的诞生，标志着生成式人工智能在技术层面的巨大突破，并推动生成式人工智能开始在人们的生活生产中得到大规模使用。大语言模型（LargeLanguageModel,LLM）是指拥有数百亿或者更大规模参数的预训练语言模型。7