《智驱未来云网随行:打造AI应用开发&交付网络架构新范式.pdf》由会员分享,可在线阅读,更多相关《智驱未来云网随行:打造AI应用开发&交付网络架构新范式.pdf(18页珍藏版)》请在三个皮匠报告上搜索。
1、智驱未来 云网随行打造AI应用开发与交付网络架构新范式阿里云智能集团 云网络产品线负责人祝顺民Creating a New Network Architecture for AI Application Development and DeliveryIntelligent Cloud Network Products AI应用加速创新,对云网络产品技术提出更高的要求Accelerated AI Application Innovation Leads to Higher Requirements for Cloud Network Products and Technologies跨地域/多
2、云协同数据流动性差,形成孤岛“数据就绪”延迟数据等待成为训练流程的主要瓶颈带宽成本与传输效率TB/PB级数据迁移,时间长、成本高AI数据流转海量数据的汇集和预处理规模万卡/十万卡,超大规模算力集群性能网络延迟与抖动,影响训练性能可靠性长时训练,网络抖动或中断导致任务失败AI训练和推理大规模集群高效计算模型分发模型如何快速、一致地部署到全球流量调度用户请求智能路由到延迟最优、负载最轻的推理节点体验一致性保障全球不同地区用户获得稳定、高速的AI服务体验AI应用发布全球化发布及体验保障ProxyAgentAgent全球组网负载均衡应用网络产品AI服务托管/Agent基础网络产品模型训练和推理加速物理
3、网络资源建设,助力构建全球计算和数据一张网基础网络产品:高性能、确定性的云上基础网络,助力AI训推能效提升模型推理数据采集模型训练CPFSGPURDMA安全访问EASEAS应用网络产品:敏捷、弹性的大规模AI应用网络,助力AI应用覆盖全球训推网络新方案VPC RDMA训推场景KV Cache高性能传输AI应用出海体验保障GA:加速访问,提升AI部署效率和体验AI服务托管ALB智能版:全球统一推理服务入口全球算力数据池化云网络全新升级技术新范式,让客户专注AI创新Upgraded Cloud Network Technologies Allow Customers to Focus on AI
4、InnovationCEN+TR快速组网,按量付费物理网络全球网络覆盖和容量确定性内网连接ZooRouteVPC,跨域,云服务全面覆盖公网带宽180T,全球覆盖跨域带宽百T级端到端专线接入80%专线接入在两周内完成美东伦敦法兰克福迪拜澳大利亚雅加达吉隆坡新加坡首尔曼谷美西东京墨西哥马尼拉利雅得RegionPoPEdgeRouterServerSwitchAI服务全球化发布保障Privatelink跨域:AI服务全球快速发布29180T+bps91百T级美东伦敦法兰克福迪拜澳大利亚雅加达吉隆坡新加坡首尔曼谷美西东京墨西哥马尼拉利雅得审图号:GS(2016)1611*2025年网络基础设施建设进展
5、物理网络资源建设提速,保障AI业务快速发展*截止2025/09/24,来自阿里云官网Accelerated Physical Network Resource Development Supports the Rapid Development of AI Services阿里云网络资源和质量提升降低 7%-20%TOP运营商平均延迟降低 30%海外运营商接入增加 20%提升 50%海外公网接入带宽平均抖动亚太超低时延新加坡-中国香港-日本专用海缆+城市内微波+空芯光纤中国香港-日本时延低至39.5ms基于CEN和TR高速连接全球算力和数据Tapping Global Computing Po
6、wer and Data with Cloud Enterprise Network(CEN)and Transit Router(TR)快速开通快速开通分钟级服务开通,弹性使用带宽降低数据重复存储成本降低数据重复存储成本内网高速连接全球数据,避免数据在多个Region重复存储降低跨域流量成本降低跨域流量成本基于TR QOS和跨域金银铜带宽,提升带宽利用率,降低带宽成本三方IDCGPU训练资源数据存储中心VPCOSS数据存储中心VPCOSS数据存储中心VPCOSS灵骏VPCGPU训练资源DLCDSWCPFSGPURDMA灵骏VPCGPU训练资源DLCDSWCPFSGPURDMA云企业网CEN(