让智能更安全.pdf

1、让智能更安全检测运行终端的全周期AI安全防护C H I N A D A T A V A L L E Y W e s t L a k e D i g i t a l s e c u r i t y C o n f e r e n c e中国数谷西湖论剑大会大模型安全全景透视模型检测安全-大模型风险评估系统运行防护安全-大模型安全防护系统办公应用安全-办公智盾01大模型安全全景透视AI安全事件警示2023年07月ChatGPT【奶奶漏洞】输入特定场景，chatGPT就会报出Windows系统可用序列号2024年08月多款儿童手表“已读乱回”回答出:中国人不诚实，长相丑陋；否认南京大屠杀等2025年

2、03月一句话“DeepSeek停不下来”一段看上去人畜无害的文字让DeepSeek一直输出不停2023年3月欧盟正式公布全球首个全面监管 AI 的法规人工智能法案，对不遵守相关规定的主体，将被处以最高 4000 万欧元的罚款，所以企业在追求创新的同时，都在努力平衡创新与合规之间的关系。2023年7月我国网信办正式发布生成式AI服务管理暂行办法，要求输出内容审核率达100%，这体现了监管机构对AI内容合规的高度重视，需加强AI内容审核机制，确保符合法律法规和伦理要求；确保AI用的高效、用的安全、用的合规；大模型的风险挑战与安全威胁五大安全风险数据安全风险终端应用风险模型安全风险对抗攻击指令攻击鲁

3、棒性模型滥用数据泄露不安全输出内容安全风险意识形态内容偏见商业版权运行环境风险应用安全风险主机脆弱性风险软件供应链风险数据处理阶段运行服务阶段生产应用阶段三大阶段暴露五大安全风险数据泄露数据窃取数据投毒安恒AI安全治理体系应用安全检测内容安全检测基础设施安全检测语料库安全检测运行安全大模型安全治理框架内容防护输入内容防护输出内容防护提示词注入防护违法信息过滤模型滥用检测模型盗窃检测v安全防御技术内生安全防御违规内容过滤数据防泄露围栏外部威胁防御互联网信息服务深度合成管理规定大模型系统测评要求生成式人工智能服务安全基本要求评估要求应用安全防护访问控制模型资产透视Web安全防护API安全模型拒绝服

4、务模型漏洞检测基础网络防护后门检测模型漏洞加固病毒防护入侵防御框架安全供应链安全终端应用防护AI应用资产识别 恶意回复识别与拦截 应用权限管理上传数据监控AI应用行为审计机密信息防泄露 应用安全数据安全异步审计消息撤回隐私脱敏数据过滤RAG语料管理分类分级身份权限数据标识数据加密数据追溯数据保护流量画像模型调度基线检查弱口令检测异常行为分享主机安全 咨询服务安全测评技术决策服务提效创作代码生成智能提效模型搭建语料准备模型训练模型部署模型应用安恒全域智能安全三大件更全面风险见底更安全多重防护更放心事件闭环使用侧02模型检测安全-大模型风险评估系统明鉴大模型风险评估通过全链路AI资产管理、多维度风

5、险探测引擎及闭环处置机制，全面保障大模型底层系统、中间件、应用组件及语料数据的安全性，覆盖漏洞检测、敏感信息识别、模型鲁棒性等关键环节，实现AI系统从开发到应用的全生命周期安全检查。大模型风险检测与闭环模型风险管理漏洞检测大模型探测模型指纹API探测模型组件安全模型应用漏洞中间件安全模型服务操作系统安全OllamaDeepSeek安恒恒脑通义千问ChatGPT文心一言集中管理统计分析闭环管理持续运营API接口漏洞资产梳理风险检测闭环管理应急处置大模型安全防护系统明鉴大模型风险评估01生成内容安全风险违规内容，5大类31项，超过10万题库。模型自身安全风险鲁棒性、拒答率、对抗性攻击等。语料数据安

6、全风险语料合规性检测、分级分类身份证、电话号码等敏感信息识别。API、网站应用风险API引发的各种安全风险，如API越权、敏感信息泄露。AI应用网站包括组件、系统的安全漏洞，如SQL注入、XSS、命令执行、代码执行等。后端数据库风险数据库系统中的安全漏洞、弱点和配置错误。主机安全风险大模型配套设备中存在的安全漏洞、高危端口对外、弱口令等。基础设施安全大模型安全AI应用服务识别大模型类型识别大模型网络访问控制0203010203内置全链路AI资产与多维度风险探测引擎，全面覆盖大模型组件、基础设施及业务应用，保证模型自身及基础设施的安全性。AI大模型、底层系统、中间件、组件框架等资产识别和漏洞检测