1、TC260全全国国网网络络安安全全标标准准化化技技术术委委员员会会技技术术文文件件TC260-005人工智能应用伦理安全指引 1.0Ethics-Safety Guidelines forArtificial IntelligenceApplications 1.02026-05-19 发布发布全国网络安全标准化技术委员会发全国网络安全标准化技术委员会发布布I摘摘 要要近年来，人工智能不断加速发展，生成式人工智能、智能体等新技术及其应用层出不穷，人工智能对社会、生产、生活的重构性影响逐步显现。在人工智能积极、深刻地改变社会运行及个人生活方式并带来诸多便利的同时，也带来许多伦理安全挑战。为进一步

2、确保人工智能安全可控，统筹人工智能发展与安全，保障强化人工智能对国家经济、社会、生态等方面的持续推动作用，帮助人工智能应用相关方在各应用场景开展相关活动时，更好地兼顾发展、安全以及伦理各方面影响，本文件给出了人工智能应用伦理安全的理念与原则，提出了开展相关活动的基本要求，提供了各方实践的应用指引。本文件为原则性、参考性技术文件；涉及个人信息、自动化决策、内容标识、算法治理、知识产权等事项时，应与现行法律法规和部门规章协调适用。II目目次次前言.III1 范围.12 规范性引用文件.13 术语和定义.14 人工智能应用伦理安全影响.25 伦理安全理念与原则.25.1 伦理安全理念.25.2 伦理

3、安全原则.26 伦理安全指引.36.1 通用指引.36.2 应用开发指引.46.3 服务提供指引.46.4 应用使用指引.5III前言本文件由全国网络安全标准化技术委员会（SAC/TC260）发布。本文件起草单位：清华大学、中国电子技术标准化研究院、上海交通大学、四川大学、北京科技大学、阿里巴巴集团、华为技术有限公司、北京深度求索人工智能基础技术研究有限公司等。本文件主要起草人：薛澜、梁正、郝春亮、贾开、王姣、赵静、张妍婷、申卫星、朱旭峰、吕飞霄、庞祯敬、王净宇、曾雄、李芒、宋雨鑫、吴宗泽、傅宏宇、林秋诗、吴少卿、王晓箴、邵萌、薛晖、张荣、李娅莉、陈迪思等。1人工智能应用伦理安全指引1范围本文

4、件给出了人工智能应用伦理安全影响，提出了人工智能应用伦理安全理念与原则，规定了人工智能应用开发、服务提供和应用使用等安全指引。本文件可为组织和个人开展人工智能应用活动提供指导，也可为相关主管部门、行业组织和有关机构推进人工智能伦理安全治理提供参考。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T 25069信息安全技术术语GB/T 41867信息技术人工智能术语3术语和定义GB/T 25069和GB/T 41867界定的以及下列术语和定

5、义适用于本文件。3.1人工智能应用 artificial intelligence application具有功能特性的人工智能的使用，该人工智能在利益相关方场景中运行以实现预期结果。来源：ISO/IEC 5339:2024(en),3.13.2人工智能应用伦理安全（简称“伦理安全”）ethics-safety of artificial intelligenceapplications开展人工智能应用活动，处理人工智能与人、社会、自然之间相互关系时，从安全影响角度出发，应保障的伦理价值或秩序的规范与准则。3.3应用开发者 developer开展人工智能应用的理论研究、技术创新、数据归集、模型

6、开发、算法迭代等相关活动，或利用人工智能理论或技术形成具有特定功能、满足特定需求的系统、产品或服务的组织或个人。3.4服务提供者 provider在工作与生活场景中，利用人工智能技术向具体对象提供服务的组织或个人。3.5使用者 user在工作与生活场景中使用人工智能系统、产品或服务的组织或个人。24人工智能应用伦理安全影响主要影响包括：a）人类主导权影响人工智能行为超出人类所预设、理解和可控的范围，在对人工智能应用关键节点的监督、干预与纠偏不足时，可能冲击人类在社会运行和治理过程中的主导地位。b）公共秩序影响人工智能应用于社会运行和行为决策，在技术快速演化而社会回馈相对缓慢的情况下，可能影响行