《赛迪&阿里云&中科院软件所：2025机密计算保障人工智能系统安全研究报告（26页）.pdf》由会员分享，可在线阅读，更多相关《赛迪&阿里云&中科院软件所：2025机密计算保障人工智能系统安全研究报告（26页）.pdf（26页珍藏版）》请在三个皮匠报告上搜索。

1、机密计算保障人工智能系统安全研究报告机密计算保障人工智能系统安全研究报告2025年1月目录目录01 AI安全需求与挑战02 机密计算现状与趋势03 机密计算保障AI系统安全04 机密计算保障AI模型和数据安全05 机密AI未来趋势展望AI安全需求与挑战11、大模型时代的安全需求u 新一代AI逐渐渗透到了各行各业，在显著提高生产力和效率的同时，也带来了前所未有的安全挑战，亟需建立一个涵盖各个层次的AI安全框架，有效控制AI安全风险0101020203030404数据安全算法安全模型安全系统安全确保AI系统赖以运行的软硬件、服务、网络设备等基础设施的安全性，防止未经授权的访问和篡改确保AI模型在开

2、发和部署过程中的机密性和完整性，防止对AI模型的盗窃、非法复制和滥用确保AI算法具有公正性和鲁棒性，保障决策过程与结果的合法合规，避免受到恶意干扰确保AI系统中的数据在存储、传输和使用时，其机密性、完整性、可用性不会受到泄露、篡改或恶意使用影响系统安全是最基础和最重要的，是确保业务层安全措施得以实施的基础；生成式人工智能服务安全基本要求的相关要求也体现了“真正的安全要从系统层开始”这一理念2、AI安全的主要风险和挑战平台可信性风险内存攻击存储攻击侧信道攻击瞬态执行攻击微架构数据采样框架和组件的安全漏洞网络攻击风险0101模型窃取攻击模型后门攻击模型越狱攻击0202缺乏可解释性对抗性攻击算法的歧

3、视偏见0303数据投毒攻击梯度反演攻击成员推理攻击用户输入数据泄露0404系统安全模型安全算法安全数据安全3、AI安全现有解决思路的局限u 现有AI安全解决方案主要集中在数据安全、算法安全和模型安全三个层级，常见的措施包括模型加密、对抗样本检测、差分隐私等，一定程度上提高了安全性，但应对更复杂的安全威胁时往往显得力不从心。越来越多企业在云服务上进行AI训练和推理现有的安全解决思路通常假设云服务本身是可信的，忽视了其可能存在的风险使得AI系统在云服务环境中的安全性面临严峻挑战010102020303现有方案在保护用户隐私数据传输方面存在不足，TLS协议缺少端到端的用户隐私数据保护用户的隐私数据可

4、能会被不可信的AI服务获取，从而导致敏感数据的泄露在系统层面，特别是对操作系统、硬件以及云服务等关键软硬件和服务的保护上，安全性往往容易被忽略或未能得到应有的重视系统层的薄弱环节可能导致整个系统的安全性失效机密计算现状与趋势21、机密计算技术原理与应用价值（1/2）u 机密计算是利用具有通用计算能力的硬件可信执行环境（TEE）来保障“使用中”的数据安全，TEE应具备可编程性，可确保数据的可用且不可见，从而保护使用中的数据并维护数据的完整性和隐私。图 机密计算与隐私计算的关系图 TEE实现方案1、机密计算技术原理与应用价值（2/2）机密计算对云上用户数据提供强大的安全保障机密计算为“使用中”的数

5、据提供全方位安全保护机密计算为数据全生命周期提供保护长期以来加密技术被用于为“传输中”数据和“静态存储”的数据提供防护，“使用中”的数据缺乏有效的保护手段，使用户数据暴露在未经授权的访问、篡改及窃取的巨大风险之下机密计算全面覆盖数据生命周期的三大阶段“传输中”、“静态存储”及“使用中”，确保数据在任何时刻都安全无虞随着云计算和边缘计算的蓬勃发展，众多用户倾向于在云服务器的设备上部署工作负载，这一转变使得数据保护面临全新挑战。机密计算将防护重心明确转向确保用户数据免遭任何潜在的系统控制者攻击，尽管工作负载依旧依托云上软件进行管理，但这些软件却被严格限制，无法窥视或篡改用户数据任何未经授权的实体，

6、无论是主机上的应用程序、操作系统、Hypervisor，还是系统管理员，甚至是对硬件拥有物理访问权限的其他人员，都无法窥探到在TEE和内存中的数据加密方式。这意味着，即便内存数据不幸被窃取，也绝不会发生信息泄露。TEE极大地增强了数据的安全性和可证明性，为用户提供了更高的信任度2、机密计算技术路线与产业生态发展历程 不同的技术路线内存加密、隔离机制等实现方式有所不同，导致不同平台的机密计算环境无法直接互通，阻碍了跨平台应用的无缝协同运行和管理 行业联盟和标准化组织为达成互操作性，制定了统一的机密计算技术标准和规范，显著提升了产品的易用性、安全性和兼容性平台互联互通针对不同的体系架构出现了多种机