1、 行业数智化 AI 安全实践研究报告 2026 年 2 月 华为技术有限公司 中国信息通信研究院人工智能研究所 中国人工智能产业发展联盟安全治理委员会 编写单位（排名不分先后）华为技术有限公司 中国信息通信研究院人工智能研究所 中国人工智能产业发展联盟安全治理委员会 编写人（排名不分先后）边英杰 石 霖 周 倩 陈 亮 王孝丰 静 静 黄 敏 崔 昊 王 伟 包 弋 张凯程 卢宇峰 姜洪伟 柳嘉琪 邵 萌 韩少伟 I 目 录 1.发展趋势与挑战.1 1.1 AI 技术赋能千行百业，与产业深度融合.1 1.2 行业 AI 应用面临安全新挑战.3 1.3 建设行业 AI 安全体系的必要性与紧迫性.

2、4 2.行业 AI 应用面临的安全风险.6 2.1 管理层面安全风险.6 2.2 技术层面安全风险.10 2.3 典型场景安全风险.14 2.4 行业场景化防护体系的结构性缺失与能力滞后.18 3.行业 AI 应用安全治理体系.20 3.1 安全治理体系框架.20 3.2 基础设施安全.21 3.3 数据全生命周期安全.26 3.4 模型全生命周期安全.37 3.5 Agent 应用安全.46 3.6 安全运营管理.48 3.7 数智共生的全生命周期安全协同.53 4.行业 AI 应用安全治理实践.56 4.1 金融领域安全治理实践.56 4.2 政务领域安全治理实践.60 4.3 医疗领域安

3、全治理实践.63 II 4.4 制造领域安全治理实践.66 5.未来展望.68 5.1 基础补齐与共识建立.68 5.2 自主可控与生态共建.70 1 1.发展趋势与挑战 1.11.1 AIAI 技术赋能千行百业，与产业深度融合技术赋能千行百业，与产业深度融合 当前，人工智能技术正经历着从技术爆发向产业深耕的关键跃迁，已成为驱动新一轮科技革命和产业变革的核心力量。特别是随着国务院关于深入实施“人工智能+”行动的意见（国发202511 号）（下文简称意见）的发布与实施，AI 技术赋能千行百业已从行业共识上升为有明确路径的国家级推进举措。该意见明确指出，要通过深化人工智能技术在制造业、农业、服务业

4、等重点领域的应用，构建数据驱动、人机协同、跨界融合的智能经济形态。在“人工智能+”产业发展方面，国家正大力推动人工智能与实体经济的深度融合，鼓励各行业利用大模型、生成式 AI 等先进技术优化研发设计、生产制造、经营管理等关键环节，培育高端化、智能化、绿色化的新型产业体系。这标志着 AI 技术不再仅仅是单一的辅助工具，而是正在演变为重塑产业结构、提升全要素生产率的新型基础设施。与此同时，随着 AI 在行业中的渗透率不断提高，统筹发展与安全成为行业应用的前提。依据意见中关于“人工智能+”治理能力的部署，行业在推进智能化的过程中，必须坚持敏捷治理与安全底线并重。文件强调要加强人工智能安全风险的监测预

5、警，建立健全科技伦理审查和监管制度，提升对算法歧视、数据泄露、深度伪造等风险的防范能力。这一政策导向为行业 AI 的发展指明了方向：即在追求技术赋能效率的同时，必须构建与之相匹配的安全治理体系，确保人工智能技术在法治、合规的轨道上健康发展。这也正是本报告探讨行 2 业 AI 安全治理体系的核心背景与政策依据。AI 已经在生成式模型、多模态技术、智能 Agent 等多个领域实现跨越式发展，为实现真正的行业全流程智能化奠定了基石。但必须正视的是，技术能力的拓展也同步衍生出很多新的安全隐患。随着模型参数量的指数级增长，算法的可解释性下降、数据隐私边界模糊等问题日益凸显，为行业应用埋下了风险伏笔。这也

6、正如意见在治理能力部分所强调的，必须加强对算法歧视、数据泄露、深度伪造等风险的防范，构建敏捷治理与安全底线并重的行业生态。在这一背景下，在加速拥抱智能化的同时，构建可持续、可治理的 AI 应用体系已成为推动高质量发展的关键前提。随着“人工智能+”行动的纵深推进，AI 与行业的结合正从早期的单点工具应用，向全业务流程的深度融合迈进。AI 已不再仅仅是提升数字化水平的辅助手段，而是深入到了研发、生产、运营等核心环节，呈现出“业务流程重构、跨领域协同、个性化服务、闭环优化”的四大融合趋势。在这一过程中，生成式模型正在重塑内容生产与交互方式，多模态技术打破了物理世界与数字世界的感知壁垒，而Agent则