03-kata-hypergpu-xie-tong-gou-jian-mi-tai-suan-li-di-zuo-niu-xue-wei-zhang-xu-feng-.pptx

1、Kata+HyperGPU 协同构建密态算力底座,蚂蚁集团,2025/11/15,牛学蔚、张绪峰,牛学蔚蚂蚁集团开发工程师,Kata Containers Committer，开源爱好者，专注于安全容器、Linux Kernel 虚拟化方向。,张绪峰蚂蚁密算开发工程师,长期从事操作系统安全可信和云原生领域的研发工作，近年来聚焦于机密计算技术的创新与商业落地，推动机密容器技术在大数据和大模型等隐私保护领域的产品化应用。,形象照,CONTENT,目录,01,Kata&CoCo 介绍,02,Kata 在蚂蚁的落地实践,03,HyperGPU 设计,04,HyperGPU在可信数据空间领域的应用,CO

2、NTENT,目录,01,Kata&CoCo 介绍,02,Kata 在蚂蚁的落地实践,03,HyperGPU 设计,04,HyperGPU在可信数据空间领域的应用,什么是 Kata？,Pod 运行在虚拟机中性能：轻量虚拟机Kubernetes 生态：OCI 兼容带来的好处？故障隔离安全隔离性能隔离,https:/,什么是 CoCo？,CoCo 源自于 Kata，利用硬件能力加密内存数据以及保证内存完整性，实现在不可信的环境中保护用户数据云服务提供商不信任用户，使用 Kata 保护宿主机并隔离不可信的用户负载（用户信任云服务）用户不信任云服务提供商，使用 CoCo 保护自己的数据,https:/,

3、CONTENT,目录,01,Kata&CoCo 介绍,02,Kata 在蚂蚁的落地实践,03,HyperGPU 设计,04,HyperGPU在可信数据空间领域的应用,Kata 在蚂蚁的落地实践,Kata 已经在蚂蚁内部实现了大规模部署在离线混部离线任务运行在 Kata 中，在线任务高水位时能持续压制离线任务（性能隔离）离线任务出错时不会影响在线任务（故障隔离）Ant CWPP(云负载保护平台)，白皮书已发布 1按需配置权限，解决容器逃逸问题（e.g.AI Agent）基于 veBPF 技术，Kata 提供统一内核，实现更简单收缩策略的影响半径到 Pod 范围内蚂蚁密算,1:https:/kat

4、acontainers.io/collateral/kata-containers-ant-group-cwpp-ebpf_whitepaper_chinese.pdf,CoCo on HyperEnclave,https:/,Confidential VM,Confidential VM,IntelTDX,AMDSEV,HyperEnclave,Hardwares(CPU/GPU),社区方案已经支持了 Intel TDX 和 AMD SEV蚂蚁密算使用 HyperEnclave 提供机密计算能力硬件无关：仅依赖虚拟化特性，适配国内外主流 CPU 平台简单易用：应用无感的运行在机密环境中安全可

5、控：信任根与 CPU 解耦，托管在国家权威机构,可共享的容器镜像,Container,Container,Container,Guest Kernel,Kata-Agent,CoCo,Attestation-Agent,远程证明服务Remote Attestation Service,密钥管理服务tkms,Remote Attestation,Keys,overlayfs,dm-crypt,virtio-block,Data(RW),Rootfs(RO,shared),csi-directvolume-plugin,containerd,Node,机密 GPU 热插拔,CONTENT,目录,0

6、1,Kata&CoCo 介绍,02,Kata 在蚂蚁的落地实践,03,HyperGPU 设计,04,HyperGPU在可信数据空间领域的应用,HyperGPU 设计：背景介绍,需要保护的隐私数据:模型提供商:大模型文件、语料库终端用户：提示词、推理结果,大模型推理过程中隐私数据保护,HyperGPU 设计：总体设计,通用的 TEE HyperEnclave，同时提供：Enclave、CVM 以及 GPU-TEE 三种抽象,设计哲学：Hypervisor 运行在硬件虚拟化提供的最高特权级，仅仅负责安全资源的管理原有的