1、联合发布单位:上海市信息安全行业协会 安在新媒体本报告由上海市信息安全行业协会、安在新媒体联合发布。报告中所有的文字、图片、表格均受到中国知识产权法律法规的保护。上海市信息安全行业协会是由上海市信息安全行业同业企业以及其他相关经济组织自愿组成、实行行业服务和自律管理的非营利性的社会团体。自2003年成立以来,协会一直以“服务企业、规范行业、发展产业”为宗旨,践行“行业服务、行业调研、行业代表、行业自律”职能,通过产业人才培养、产业标准制订、开展课题研究、举办技能竞赛和专业培训、举办大型专业论坛及主题会议、搭建专业化服务平台、推进国内外交流合作等大量卓有成效的工作,积极促进上海网络和信息安全产业
2、的发展。安在新媒体隶属于上海安阖在创信息科技有限公司,是一家网络安全领域的专业媒体,致力于为客戶提供最创新的一站式互联网媒体服务。自2016年成立发展至今,已经成为最为著名的网络安全媒体品牌。本报告中的调研数据均采用样本调研方法获得,其数据结果受到样本的影响,部分数据未必能够完全反映真实市场情况。所以,本报告只提供给个人或单位作为市场参考资料使用。本报告的数据采集作得到了各界的持,各项调查作得以顺利进,在各相关单位、调查持网站以及媒体等的密切配合下,基础资源数据采集才能及时完成。在此,谨对他们表最衷的感谢!同时,感谢企业网络安全专家联盟(诸子云)专家在报告策划、编写和修订过程中的参与和持。关于
3、本报告不受监管的 AI,就是一辆没有方向盘的高速跑车。诺贝尔奖得主杰弗里辛顿目 录 CONTENTS1、AI 安全产业定义-042、AI安全能力框架-053、全球 AI 安全产业概览-064、中国 AI 安全产业概览-075.中国政策法规及趋势-086、全球AI安全政策对比-097、企业AI应用实践与安全需求-108、AI安全产业全景图-119、AI安全产业竞争格局与厂商生态-1310、厂商区域分布-1411、核心产品技术成熟度评估-1512、典型海外AI安全公司-1613、典型国内AI安全公司-1714、总结-1815、安在新媒体企业会员风采展示-1932026 年国内 AI 安全产业的定义
4、,以国家网信办、发改委、工信部等三部门联合发布的智能体规范应用与创新发展实施意见中的官方表述为权威基准:AI 安全是覆盖 AI 系统全生命周期的安全防护能力,目标是防范 AI 技术应用带来的网络攻击、数据泄露、系统滥用、物理社会安全衍生风险,同时为 AI 技术本身的安全落地提供可信赖的支撑底座。这一官方定义并非行业的泛化表述,而是直接锚定了企业采购场景下的核心防护边界。从技术框架层面看,国内行业权威机构的分类标准进一步细化了产业的核心防护赛道:全国信息安全标准化技术委员会(TC260)发布的人工智能安全标准化白皮书(2024 版),将 AI 安全划分为基础安全、数据安全、模型安全、应用安全、治
5、理合规五大核心板块,这一分类标准也被国内超九成的头部安全厂商采纳为产品研发的基准逻辑;而中国信通院发布的人工智能安全治理蓝皮书(2025 年),则进一步明确了产业的覆盖边界 从“保护 AI 系统自身安全出发”,延伸至“利用 AI 技术重构传统安全防护体系”的双向范畴。国际权威机构对该产业的分类逻辑,同样验证了这一重构趋势的必然性:网络设备巨头 Cisco 将 AI 安全划分为五大核心领域,其中最核心的两大基础赛道为“Securing AI(防护 AI 系统自身安全)”与“AI for Security(用 AI 技术赋能传统安全防护)”,这一划分逻辑与国内权威机构的分类标准形成了高度共识;国际
6、行业机构 Future Market Report 则从企业实际采购场景出发,将 AI 安全产业细分为“网络安全、终端安全、应用安全、物理安全”四大落地赛道,其中前三者对应国内定义下的“AI 对网络安全赛道”,物理安全则对应“AI 对物理社会安全赛道”。我们将上述概念采纳为本报告的AI安全整体模型,将AI安全分为两个主要部分,AI自身安全、AI衍生安全,AI自身安全是指AI技术系统的自身安全,涉及数据、框架、模型、芯片、算力、网络、应用服务等技术系统安全;AI衍生安全是指AI技术系统对个人组织、国家社会、全人类造成的安全问题和防护需求,涉及个人组织的隐私、生命、财产、伦理安全,国家社会的政治文