《字节跳动-袁巍-字节端智能平台Pitaya的实践分享和未来之路.pdf》由会员分享,可在线阅读,更多相关《字节跳动-袁巍-字节端智能平台Pitaya的实践分享和未来之路.pdf(38页珍藏版)》请在三个皮匠报告上搜索。
1、字节端智能Pitaya介绍实践分享和未来之路字节跳动袁巍June,2023June,202301我介绍Introduce MyselfJune,202301_我介绍袁巍“”字节端智能平台(Pitaya)技术负责 曾任职阿,腾讯等互联企业,直专注移动端研发,近些年关注移动端+AI 结合领域。2020 年加字节跳动,从 0 到 1 建设字节端智能平台 Pitaya,成为字节跳动中台的通端智能框架,为业务带来可观收益。June,202301我介绍02Pitaya平台介绍03端特征程建设04低代码的智能化改造(PWT)05端智能 And LLM06Q&AJune,202302Pitaya平台介绍Jun
2、e,202302_端智能发展体系,组建化/产品特异实现诉求有端智能体系端智能体系扩展未来 端边云,模型 图像识别、翻译、Siri XNN,TFLite,拍淘链路 重排、决策、安全控 各的端智能基建解决算法和开发协作,加速业务场景落地,聚焦端侧,部分数据智能链路建设 联邦、端特征、垂类业务 端体系扩展,端和云的程体系,端和Iot设备,低代码June,202302_Pitaya平台介绍业务场景平台架构June,202302_Pitaya平台介绍云:模型+代码开发数据开发模型开发算法包开发监控 告警实验部署/动化迭代数据触发部署管理VM基础库运时 监控数据/特征/画像落盘数据、特征数据、特征、画像P
3、itaya 平台算法包Pitaya SDK性能、异常端:代码执环境June,202302_Pitaya平台介绍监控&告警业务指标监控&告警模型指标监控&告警特征指标监控&告警部署服务监控&告警平台Metrics推理引擎TFLiteByteNNByteDTBaseFundationApplogMobileCVNumPyData Storge/DB运 容 器Muti-VMML-NativeCEPBridge Native Binding任 务 调 度Task队列管理Task优先级Task任务编排串/并执包 管 理包管理数据管理Task成Task触发鉴权端 特 征 中 特征计算特征存储样本标注部署下
4、发算法包版本管理部署版本管理A/B实验灰度发布上线流程卡熔断回滚特征数据平台特征上/下通道特征集创建/存储特征管理特征复特征商店画像特征模型开发数据集导特征处理模型训练离/在线指标模型转化模型版本管理算法开发IDE开发环境预制模板真机调试打包发布Library版本动化测试Pitaya WorkFlow Template业务场景模板端云特征统流程节点开发链路动迭代迭代险控制业务案内容重排触达时机商业化展示安全控预加载时机Debug&数据回放线上数据引流数据录制数据回放Debug板动化验证监控&告警执性能度量SDK稳定性监控&告警覆盖率上报June,202302_Pitaya平台介绍上线 200+
5、业务 涵盖多媒体、商业化等中台基建 覆盖字节多数应用累计发布 5000+算法包 日均执行数万亿次发布运June,202302_Pitaya平台介绍业务场景平台架构June,202302_Pitaya业务实践June,202302_Pitaya业务实践June,202302_Pitaya业务实践应内通知,决策通知弹出时间和弹出内容渗透,社交,电商等均有提升户观看习惯,快慢滑,选档,超分观看时提升的同时,服务端成本降低卡顿率-5%+,百秒卡顿次数-7%+,峰期带宽-0.91%June,202303端特征程Data SourceJune,202303_端特征程数据 源数据 源数据 源Analysis
6、 with domain knowledgeFeature Verification Feature CleanStatistical AnalysisFeature Engineering PipResampingimputationreindexTransformRescaleAssemblingModel Ensembling and Training 数据链路,快速、通用好的数据决定了特征/模型的基础June,202303_端特征程数据链路特征管理端特征June,202303_端特征程全域特征域特征直播域告域内容(视频)域电商域本地活域June,