您的当前位置:首页 > 标签 > AI安全检测
中国工业互联网研究院:2026面向人工智能系统的体系化安全检测与风险评估方法研究报告(27页).pdf
2026AI安全检测:54.7%智能体Skills存在安全缺陷,体系化检测能力成产业刚需|安全研究所
安全研究所发布AI安全检测深度报告:54.7%的Skills存在安全缺陷、253个攻击脚本检测能力、工业智能体提示词注入/代码安全/权限过度配置三维风险,附多层级安全检测技术体系。
 2026-07-29
 AI产业
 27页
9张图表
数据来源:
中国工业互联网研究院:2026面向人工智能系统的体系化安全检测与风险评估方法研究报告(27页) 查看报告
当OpenClaw智能体因提示词注入和远程代码执行漏洞被工信部紧急通报,当54.7%的工业智能体Skills被检测出存在安全缺陷,当Anthropic旗舰模型因安全隐患被实施出口管制——AI安全检测已从“技术选项”变为“产业刚需”。安全研究所这份报告构建了从漏洞分类、风险检测到验证能力的多层级安全检测体系,为AI系统提供了一套可复用的安全“体检仪”。

AI安全检测的时代背景与紧迫性

人工智能系统加速落地的同时,安全风险日益凸显。2026年,曾爆火的OpenClaw(“龙虾”)智能体因存在提示词注入、远程代码执行、恶意插件投毒等严重安全隐患,工信部、国家互联网应急中心等部门发布安全提醒,部分企业明令禁用。Skill(技能)作为人工智能执行特定任务的模块化单元,在OpenClaw、Hermes等智能体中广泛应用,经测评54.7%存在安全缺陷,可能引发网络攻击、数据泄露和系统瘫痪。
人工智能安全已从技术问题上升为战略博弈的焦点。全球主要经济体纷纷将人工智能上升为国家战略,体系化的安全检测方法研究具有紧迫的现实意义。

多层级安全检测技术体系

AI安全缺陷及漏洞分类体系

研究团队建立了人工智能安全缺陷及漏洞分类体系,为系统性检测提供了分类学基础。在AI多层级安全体系中,智能交互层的提示词注入威胁最为突出——攻击者仅需输入精心设计的自然语言即可绕过安全防护,导致越权访问、敏感信息泄露、恶意内容生成。OpenAI、谷歌、Anthropic等头部厂商均将提示词注入防御列为安全建设的核心。

安全漏洞风险检测工具与工业智能体Skills测评

基于大模型安全风险评测架构,团队自研了安全风险评测工具,构建了253个攻击脚本的检测能力。即使表现最好的模型也未能完全抵御攻击,行业安全水位整体偏低。工业智能体Skills测评发现三大风险维度:代码安全风险——底层代码漏洞频发,高危漏洞突出;提示词注入风险——伪造系统规则、冒充管理权限等恶意指令隐藏在常用文档中;权限过度配置——多数Skills申请过多权限,部分框架“一次授权、持续生效”的信任模型存在隐患。此外,29.7%的Skills存在第三方依赖,官方Skills市场缺少严格的身份核验和前置审计。

AI安全漏洞库与验证能力

研究团队构建了人工智能安全漏洞知识库和漏洞验证能力,实现了从“发现风险”到“验证风险”的跨越。这一能力使安全评估不再停留在理论层面,而是能够通过实际验证确认风险的可利用性和影响范围,支撑AI安全治理闭环。

AI安全检测的未来方向

AI安全检测正从单点检测走向体系化检测,从静态检测走向动态量化评估。未来发展方向包括:跨层级威胁传导分析——从单一层级检测升级到跨层动态融合量化评估;可量化的风险优先级——通过成本效益分析把“修哪里”变成可计算问题;标准化检测流程——把评估做成可复制、可审计、可落地的方法。
客服
商务合作
小程序
服务号
折叠