产品发布：构建高吞吐、低时延、全链路安全的云上数据中心.pdf

1、构建高吞吐、低时延、全链路安全的云上数据中心阿里云智能集团高级产品专家彭昔敏Building Cloud Data Centers with High Throughput,Low Latency,and End-to-End SecurityCONTENT目录AI应用场景爆发为数据中心带来新的挑战数据中心网络面临的挑战01构建高吞吐、低时延、全链路安全的云上数据中心数据中心网络产品重磅发布02高效网络规划与IPv6演进简化复杂网络管理03一、AI应用场景爆发为数据中心带来的新挑战New Challenges for Data Centers from the Explosion of AI

2、ApplicationsPOPRegion飞天洛神云网络平台性能，稳定，安全，成本全球化网络基础设施路由器交换机服务器Edge本地组网全球化组网应用交付和托管IDC上云高速通道VPN网关弹性公网IP私网连接NAT网关专有网络VPC全球加速GA负载均衡复杂组网转发路由器互联网出口应用交付跨地域应用服务化互联地址隐藏虚拟网络简单组网对等连接VPN上云云网络基础商品云网络基础服务云网络智能运维和生态接入服务CDT-云数据传输云企业网CEN网络智能服务NIS基础服务开放SAAS应用开放接入生态开放通用网络方案行业网络方案全球网络互联全球应用加速应用交付网络自动驾驶网络汽车上云网络游戏网络加速企业级云上

3、组网金融上云网络AI行业云网络CU-云数据处理什么是数据中心网络专有网络VPC在云上逻辑隔离的网络环境部署和访问阿里云云服务NAT网关避免云服务地址直接对外暴露，安全访问互联网和解决地址冲突私网连接安全、稳定地连接VPC和阿里云云服务10.0.0.02410.0.1.02410.0.2.0/24172.16.0.024Transit-Router-1VPC-BVPC-A13322三大流量域1.算力互访3.算力访问公网/跨域2.算力访问云服务高吞吐与低时延AI推理场景PD分离架构中，kvcache传输对大带宽的需求；训练/推理自建存储场景/镜像访问加速场景，对低时延访问有诉求；实时交易、数据库服

4、务丢包抖动影响体验；规模与弹性AI训练与推理中，并行拉取镜像或实时获取外部数据易引发突发公网访问流量，对网络出口的弹性与规模构成挑战；数据读写、模型加载等高频并发场景需私网访问云服务，对私网带宽弹性与规模要求极高。全链路安全与稳定面向用户快速发布AI应用，同时，不能降低安全访问要求；AI应用构建需要能够无缝兼容开源生态数据中心网络面临的挑战算力互访算力访问云服务算力访问公网/跨域二、构建高吞吐、低时延、全链路安全的云上数据中心Building Cloud Data Centers with High Throughput,Low Latency,and End-to-End Security高

5、吞吐&低时延，为AI应用提供澎湃动力High Throughput&Low Latency Deliver Powerful Momentum for AI Applications高性能VPC持续迭代，为AI应用保驾护航VPC是AI训练/推理场景的“高速公路”大带宽“高速”特质标准低时延防抖动“高速”特质开箱即用“高速”特质10.0.2.02410.0.2.024VPC-A灵骏实例计算/存储/数据库等200GbpsUpdate！VPC-BUpdate！网卡硬件VPC overlayerdma/Roce/Solar/VPC RDMA10.0.2.02410.0.3.02460%延时优化Comi

6、ngSoon！Update！VPC-C网卡硬件VPC overlay多路径/可靠传输/保序ENI Express10.0.2.02410.0.3.02490%长尾延时改善注：此图片由AI生成全链路安全和稳定：数据在云上“安然无恙”End-to-End Security and Stability:Keeping Data Secure and Sound in the CloudPrivateLink支持跨域，助力服务快速全球发布Coming soon！服务使用方服务提供方VPC-北京ECSPrivateLink终端节点服务终端节点VPC-北京VPC-上海服务使用方服务提供方VPC-上海ECS