1、1英特尔中国公有云和互联网创新实践2Cloud Infrastructure 基础云服务More Scenarios 更多场景Large Language Model(LLM)大语言模型技术篇:数据中心需求在不断演变Green Datacenter 绿色数据中心基于英特尔 架构的 AI 软件工具组合Traditional Deep Learning 传统深度学习英特尔+云合作伙伴 云端进化论系列视频CONTENT 目录0320072313341639Cloud Infrastructure基础云服务34AI 算力与安全稳定性再突破,为 AI 普惠上“双保险”挑战解决方案云服务器升级解决方案企业
2、云服务20%搭载至强 6 性能核处理器的阿里云 ECS g9i,相较于第八代实例,算力性能最大可提升1英特尔 至强 6 性能核处理器扫码获取全文阿里云 ECS g9i 通用企业级能力提升41.2.3.4 如欲了解更多案例详情,请访问:https:/ 算力需求持续高涨AI 应用逐渐普及,用户对数据隐私安全及云计算稳定性提出更高要求AI 时代企业级用户需要更具性价比的高性能算力新选择阿里云 ECS g9i 企业级云实例采用至强 6 性能核处理器实现计算性能再突破,并利用处理器内置的英特尔 AMX 和英特尔 TDX 提升 AI 应用性能,构筑稳固的安全防线。凭借至强 6 性能核处理器在核数、单核性能
3、和内存带宽等方面的优势,显著提升算力性能;借助处理器内置的 AI 加速引擎 英特尔 AMX,新增对 FP16 指令的支持,加速 AI 推理,同时利用 英特尔 QAT 进一步提升加解密效率,使得数据库压缩、视频压缩等更加高效;基于处理器内置的安全引擎-英特尔 TDX,通过 TDX 机密虚拟机硬件隔离、加密隔离机制等方式,为应用提供更高水平的机密保障,并有效避免因应用大幅改造可能引发的兼容性问题。30%大数据缓存加速场景下 性价比可提升2 倍ResNet50 运算效率提升20%较第八代实例,Web 应用场景性能提升1.7 倍预训练 Bert 模型效率提升搭载至强 6 性能核处理器的阿里云 ECS
4、g9i2阿里云 ECS g9i 标配支持英特尔 AMX3第九代英特尔平台企业级计算实例(g9i)搭载英特尔 至强 6 性能核处理器算力提升IO 能力提升安全稳定性提升全核睿频3.6Ghz 整机连接数提升 50%TDX机密计算 eRDMA 8us 时延 双单路架构设计L3 缓存50%内存频率6400MT/s通用企业级能力性价比持续提升全能力提升最新 CIPU+英特尔 至强 6 性能核处理器数据库eRDMAEEDAMXQAT传统 AI 推荐Web 应用17%数据库20%Web 应用15%Java 应用每颗 CPU 集成多达 128 个性能核更大三级共享缓存高达 504 MB 多达 96 条通道 P
5、CIe 5.0R1S:支持 136 条通道 PCIe 5.0 Compute Express Link 2.0(CXL 2.0)多达 64 条通道支持 Type 3“Flat”内存模式 英特尔 UPI 2.0高达 6 UPI 2.0高达 24 GT/s更高内存带宽多达 12 个通道 DDR5(高达 6400MT/s)采用 MRDIMM 内存(高达 8800MT/s)支持单路到八路设计(高端 6900P 系列最多支持双路)内置 AI 加速引擎英特尔 AMX(增加对 FP16 数据格式的支持)英特尔 AVX-512 其它内置加速引擎英特尔 QAT/英特尔 IAA英特尔 DSA/英特尔 DLB 英特
6、尔 Scalable Vector Search(SVS)可调用英特尔 AMX 加速能力优化大模型应用的好搭档向量数据库的性能表现 计算单元(Compute Die)基于英特尔 3 制程工艺 火山引擎第四代通用计算型实例 g4il 引入至强 6 性能核处理器,在性能、网络及存储 I/O 等方面实现全面升级,以更加卓越的云计算性能和效率为通用 Web 应用等场景提供强劲支持。利用英特尔 至强 6 性能核处理器(P-core)更出色的单核性能、更多的内核、双倍内存带宽等经过精心优化的代际提升,助力火山引擎 g4il 支持计算密集型应用、AI 推理等更广泛工作负载;利用至强 6 性能核处理器内置的