中国信通院：人工智能治理白皮书（103页）.pdf

《中国信通院：人工智能治理白皮书（103页）.pdf》由会员分享，可在线阅读，更多相关《中国信通院：人工智能治理白皮书（103页）.pdf（103页珍藏版）》请在三个皮匠报告上搜索。

1、 人工智能治理白皮书人工智能治理白皮书 中国信息通信研究院中国信息通信研究院 中国人工智能产业发展联盟中国人工智能产业发展联盟 2020年年9月月 版权声明 本白皮书版权属于中国信息通信研究院和中国人工智 能产业发展联盟，并受法律保护。转载、摘编或利用其它方 式使用本白皮书文字或者观点的，应注明“来源：中国信息 通信研究院和中国人工智能产业发展联盟” 。违反上述声明 者，编者将追究其相关法律责任。 oPsNrOmQoQsOnRrMoMoQsN9P8Q6MnPoOsQoOkPqQvMjMmOuN8OmMuNMYmPmNNZoNtO 前前 言言 当前，全球科技革命和产业变革孕育兴起，以深度学习、跨

2、界融 合、人机协同、群智开放、自主操控为特征的新一代人工智能不断取 得突破，已成为新一轮科技革命和产业变革的重要驱动力量。在极大 提升人类生产生活品质的同时，新一代人工智能具有的通用目的性、 算法黑箱性以及数据依赖性等技术特性，引发了社会、企业、个人等 不同维度的风险和挑战， 从而对治理提出了专业化、 多元化、 敏捷化、 全球化的迫切需要。因此，人工智能治理这一概念应运而生，成为国 际社会广泛关注和研究的方向。 人工智能治理是一项复杂的系统工程，既需要明确治理原则、目 标以及厘清治理主体，又需要提出切实有效的治理措施。全球正在逐 步构建起人工智能治理框架，以坚持科技造福人类，平衡创新发展与 有

3、效治理的关系作为治理目标，采用多元主体参与、协同共治的治理 机制，通过制定伦理原则、设计技术标准、确立法律法规等综合治理 手段，推动人工智能健康有序发展。 人工智能的治理体系需要“柔性的伦理”和“硬性的法律”的共 同构建。一方面，以伦理为导向的社会规范体系，可以为人工智能技 术层面的开发和应用提供价值判断标准， 约束和指导各方对人工智能 进行协同治理。众多国际组织、国家和企业选择从伦理角度入手，试 图确立人工智能的基本伦理规范，探索清晰的道德边界，并积极构建 人工智能伦理的落地机制和体系。另一方面，以法律为保障的风险防 控体系，依靠国家强制力划定底线，可以防范和应对人工智能技术带 来的诸多风险

4、。整体来看，人工智能相关立法正从慌乱走向理性，从 源头治理走向综合治理，从粗放治理走向精细治理。同时，在自动驾 驶、深度伪造、智能金融、智能医疗等场景下，人工智能立法取得率 先突破，积累了一定的监管经验。 本白皮书从人工智能第三次浪潮开辟的治理新需要出发， 结合当 前人工智能发展阶段，分析了全球目前的人工智能治理机制，重点介 绍了两项主要的治理举措， 即以伦理为导向的社会约束体系和以法律 为保障的风险防控体系， 最后对人工智能治理的未来发展方向进行了 展望，期待为社会各方提供有益参考。 目目 录录 一、人工智能开辟治理新需要. 1 （一）人工智能时代的兴起 . 1 1. 人工智能驱动新一轮科技

5、革命 . 2 2. 人工智能打造经济发展新引擎 . 2 3. 人工智能显著提升社会生活质量 . 3 （二）人工智能的技术特性 . 4 1. 通用目的性，导致风险更为普遍 . 4 2. 算法黑箱性，导致过程更难解释 . 5 3. 数据依赖性，导致结果更不可控 . 5 （三）人工智能引发不同维度的风险 . 6 1. 社会维度：影响社会稳定 . 6 2. 企业维度：加大合规难度 . 7 3. 个人维度：侵犯基本权益 . 9 （四）人工智能治理的新挑战 . 10 1. 治理专业化的需要 . 11 2. 治理多元化的需要 . 11 3. 治理敏捷化的需要 . 12 4. 治理全球化的需要 . 12 二、

6、全球构建人工智能治理机制. 14 （一）治理目标：坚持科技造福人类，平衡创新发展与有效治理 . 14 1. 不断释放人工智能带来的技术红利和价值 . 15 2. 精准防范并应对人工智能可能带来的风险 . 16 （二）治理模式：打造多元主体参与、协同共治的模式 . 17 1. 国家政府是执行治理规则的核心主体 . 17 2. 政府间国际组织是引导治理方向的重要力量 . 20 3. 行业组织是协调多方治理的积极推动者 . 20 4. 企业是践行行业自律自治的中坚力量 . 22 5. 公众是监督治理效果的重要参与者 . 23 （三）治理手段：实施多层次、多样化的治理举措 . 23 1. 伦理约束 .