凯捷：2023生成式人工智能道德&合规风险白皮书（56页）.pdf

1、2023年11月道德&合规风险白皮书如何理解和应对生成式人工智能 引发的数据合规风险01 生成式人工智能道德&合规风险白皮书02 生成式人工智能道德&合规风险白皮书引言4生成式人工智能概述5生成式人工智能相关法规浅析111.2 生成式人工智能的研究趋势62.2 中国本土法律191 2 1.3 生成式人工智能应用领域91.1 生成式人工智能的发展历程52.1 外国法111.2.1 大模型对齐和幻觉2.1.1 美国2.2.1 生成式人工智能的伦理道德问题讨论2.2.2 我国生成式人工智能的法律基线和合规要点19241.3.1 市场规模总览1.2.2 提示工程和检索增强2.1.2 英国1.3.2 多

2、模态应用，赋能生产力：从数据类型划分1.2.3 通用人工智能和代理2.1.3 欧盟1.3.3 聚焦个性化场景，创造业务价值：从行业划分1.2.4 快速起步使用生成式人工智能2.1.4 其他国家生成式人工智能法律发展简介2.1.5 总结6117129714981618102.2.3 总结2703 生成式人工智能道德&合规风险白皮书生成式人工智能的数据合规浅析凯捷提供的服务28503 4 3.1 生成式人工智能的数据合规要点3.2 生成式人工智能的数据合规技术手段28363.1.1 数据隐私保护原则3.2.1 网络安全3.2.3 生成式人工智能引发的伦理道德风险和应对措施3.1.2 数据在生成式人

3、工智能中的角色3.2.2 数据全生命周期合规3.2.4 生成式人工智能的全生命周期合规3.2.5 生成式人工智能安全评估和算法管理3.1.3 数据采集与预处理的合规性3.1.4 模型训练与验证的合规性措施3.1.5 数据评估与调整的合规性3.1.6 输出结果的合规性2837452938464831323335引用材料关于作者52545 6 已经成为科技和商业界的前沿领域,为我们带来了前所未有的创新和机会。成式智能技术的快速发展不仅提了产，还在医疗、教育、娱乐、融和众多其他领域中掀起了场命。成式智能的解决案预计在 2-5年能达到全球认可的成熟度，率先采成式智能技术的企业将从重塑的业务模式和流程中

4、获益最多。96%的企业将成式AI列为层级规划向。多数受访管（78%）认为成式AI可以使产品和服务设计下更效。引言 04 生成式人工智能道德&合规风险白皮书 凯捷咨询认为成式智能的量将全重塑未来商业架构的DNA，例如成式智能将改变企业和客户的沟通交流模式、使数据和保障隐私的式以及向潜在客户营销的式,可以将作流程由我服务(Self-serving)转变为动成(Self-generating),并且利互联的情境化数据增强组织能等。凯捷咨询始终关注成式智能的商业应落地,专注于提供定制化解决案。凯捷研究院（CRI）发布凯捷成式智能主题系列报告：解锁成式智能的价值。为了解企业管理层对成式智能的看法以及应情

5、况，我们对全球来13个国家的1000家企业进了调研。报告显示,在全球受访的企业中，尽管成式智能在不同业和领域中都有应，但企业仍临些障碍。预训练模型的底层数据缺乏明确性、可能存在偏以及缺乏包容性等问题，会给企业带来法律和声誉险，甚定义的内部模型也可能出现“幻觉”和数据泄露的问题。凯捷咨询坚信应当负责任地使成式智能，遵守相关规范约束。本书旨在提供有关成式智能的全概述，以帮助组织了解并遵守相关合规要求。我们将讨论成式智能的定义、应领域、法律法规、伦理原则和最佳实践，以帮助您在成式智能领域的作中确保合法性、公平性和透明性。论您是技术专家、法务从业者还是决策者，这份书都将为您提供宝贵的参考，助您在成式智

6、能的世界中保持合规并取得成功。在当今数字时代，成式智能（GenAI）在此小节，我们将通过时间线图引导我们回顾生成式人工智能技术的关键事件，帮助理解生成式人工智能技术的演化，为合规和伦理讨论提供基础。生成式人工智能概述1 1.1 生成式人工智能的发展历程05 生成式人工智能道德&合规风险白皮书(资料来源：公开资料整理)1970s201220141950195719611980s2000s201720182023 阿兰图灵(Alan Turing)在论文“Computing Machinery and Intelligence”中提出了知名的图灵测试。在图灵测试中，人类需要判别对某些问题的答案由人