PPIO 模型平台出海实战跨地域业务扩展中的技术优化之道-王闻宇.pdf

《PPIO 模型平台出海实战跨地域业务扩展中的技术优化之道-王闻宇.pdf》由会员分享，可在线阅读，更多相关《PPIO 模型平台出海实战跨地域业务扩展中的技术优化之道-王闻宇.pdf（47页珍藏版）》请在三个皮匠报告上搜索。

1、PPIO派欧云模型平台出海实战出海中的技术优化之道出海中的技术优化之道PPIO派欧云 联合创始人&CTO 王闻宇TheThe NextNext ChinaChina isis ChineseChinese技术型连续创业者，2004年参与中国第一代互联网视频服务PPTV（PPlive）的创立，从第一行代码构建了 PPTV 的分布式视频服务，并创新多项 P2P 直播技术，服务全球近5亿用户；2014年二次创业极豆车联网，研发了中国首个车载智能系统“极豆OS”，产品服务于奥迪、宝马、奔驰等国际知名车厂；2018年联合创办 PPIO派欧云，聚焦分布式算力。技术领域主要聚焦在分布式计算、云原生、AI I

2、nfra 等。拥有20多年的分布式网络技术和音视频云服务架构经验，发表边缘计算、人工智能、大模型相关 SCI 论文15篇（其中CCF-A/中科院1区8篇），申请并授权发明专利20余件。王闻宇王闻宇闲置数据机房空间闲置数据机房空间企业闲置算力资源企业闲置算力资源整合资源提供服务区域DC汇聚机房挖矿闲置接入机房中小企业机房节点间SDN互联运营商机房边缘容器云边缘裸金属云IaaSPaaS音视频类实时云渲染类AI推理类中心云用户终端云原生云边协同分布式调度管理接入网就近连接MAN/LAN/5G RANPPIO派欧云：整合分布式资源我们为什么要出海我们为什么要出海需求在出海大量成功出海 App中国工程师

3、红利开放自由的市场中美科技博弈中美科技博弈我们的我们的AIAI出海分布式云产品出海分布式云产品架构APIhttps:/novita.aiModel-HostingServerlesshttps:/PodsBareMetalhttps:/novita.aihttps:/出海的过程中有哪些困难出海的过程中有哪些困难人生地不熟语言问题文化问题宗教问题PLGProduct lead growthFLGFounder lead growthSLGSales lead growth抓住不变的需求抓住不变的需求找到“第一性原理”推理一直持续的需求，未来的推理成本一定持续降低，并伴随着用量规模的持续增加我们要

4、十年时间持续做的事情就是，怎么在做到满足需求的情况，让推理的性价比足够高为什么推理成本会持续很贵为什么推理成本会持续很贵生产资料昂贵Scaling LawLLM 参数和序列都还在扩大视频生成的到来超长序列推理优化深挖还不够分布式云分布式云，生产资料不同地方成本不同，生产资料不同地方成本不同我们在是怎么把推理成本降下来的我们在是怎么把推理成本降下来的降低生产资料成本推理加速模型压缩降低 GPU成本降低电费降低其他场地/运维分布式云全球网络加速Serverless中美海底光缆的发展中美海底光缆的发展CUCN：2000年启用，中美海缆（China-US Cable Network，CUCN），1.2

5、8Tbps；2016年退役；TPE：2008年9月建成，跨太平洋快线（Trans-Pacific Express，TPE），又称横太平洋快速海缆，达5.12TbpsNCP：2018年建成投产，新跨太平洋海缆（New Cross Pacific Cable Network，简称:NCP）是第一代CUCN 的容量的1050倍，82Tbps中国到东南亚海底光缆的发展中国到东南亚海底光缆的发展APCN-22001年投产，亚太2号海底电缆；总容量 2.56TbpsAAG2009年11月10日就绪，亚太直达海底光缆 2.88TbpsAPG亚太直达海缆,2016年就绪，54.8Tbps,使得 CUCN 正式

6、退休ADC亚洲直达海缆，香港段，2023年建成。可承载超过 140 Tbps其实跨国网络非常复杂其实跨国网络非常复杂丢包率高晚高峰 15-20%，甚至 40%延迟高晚高峰 250ms 左右速率限制大忙时比闲时下降明显虽然海底光缆在不断的扩大容量，但是中国出海网络仍然面临巨大挑战我们需要在上层构造一个智能跨国加速我们需要在上层构造一个智能跨国加速如何构建一个低延时、大带宽、低抖动、低成本的网络是我们的一个命题动态最优路径选择+UDP 可靠传输+传输协议优化 是最优的解决方案优化优化1:1:动态最优路近选择动态最优路近选择加速服务Agent上车点(A)中转服务(B1)下车点(C)目标下一跳权重CB