阿里国际AI业务下的工程框架演进与实践-李平.pdf

1、2026.03.21阿 巴 巴全球总部 _访客中中国杭州 HANGZHOU CHINA阿国际AI业务下的程框架演进与实践从成式模型到主智能代理的跨越讲师介绍李平阿巴巴级技术专家 AI Business平台技术程框架负责 阿LangEngine 作者国际AI业务的交付效率和规模化1模型从成范式向推理范式2智能体临更多复杂场景挑战32023年阿LangEngine2024年2025年 今阿AgentMagicAgentic ADKAI框架0.1版本的测试版本发布Lazada Smart Assistant上线试点业务开始尝试接框架1.0版本正式发布AI业务场景在国际泛落地建设阿国际AI应开发平台框

2、架2.0版本正式发布持更复杂与个性化AI业务场景建设serverless架构下AgentEngine模型应开发低代码应开发代码应开发AI程框架的实战演进业务侧：规模化受阻 易性差：API接复杂，难以撑业务快速爆发需求。评测昂贵：依赖编写代码进功能验证，效率低且成本。算法侧：复与部署难 复性低：程与模型代码强耦合，法形成统的标准服务。部署重：每次新业务需重复开发“程+模型”代码，升级维护繁琐。程侧：效能与稳定性隐患 开发成本：缺乏统框架，代码重复造轮。维护困难：系统耦合度，故障排查复杂。稳定性险：缺失全链路监控，离在线资源未隔离，且强耦合代码威胁关安全。国际AI业务的交付效率和规模化问题挑战混合

3、式开发模式Part 01内部Dify次开发LangChain/LangFlow混合增加开发和维护成本开源框架局限性Part 02可持续维护存疑新能迭代成本BUG排查困难基础设施依赖不Part 03对阿中间件依赖不志监控需要额外定制集成成本语态不匹配Part 04开源多数基于python/node阿程团队多以Java为主学习和经验成本统程框架解决代码复基于LangEngine的Java版LLM应开发框架LangEngine框架作原理LangEngine是23年5从阿巴巴集团内部发起的LLM程框架LangEngine-CoreLangRunnable动态引擎LangEngine框架结合国际电商业务

4、尝试场景落地，在24年7底正式上线第版向产环境的可AI应开发框架（ADK 1.0），迄今为有2000+的内部社区成员，有1000+系统接，其中有50+核贡献者。24年10正式对外开源：AIDC-AI/ali-langengine。基座：阿 LangEngine 框架（全命周期/权限流控）接：HTTP/HSF 双模+流式/异步多协议持 路由：统关屏蔽后端异构（HTTP/HSF/模型服务）性能：多级元数据缓存+节点异步化+GPU 弹性伸缩 运维：SLS+Blink+Hologres 实时全链路追踪AI应可关架构解决案：构建统AI关，解耦程模型，集成多稳机制案例分析Use Case:基于LLM的意图

5、分发与实体识别 Lazada Smart Assistant框架使策略赋能运营提效，助告主增意图分发 规则+LLM+Agent多级分发，覆盖全场景 准确率超95%，新意图少量样本快速上线 实体识别 精准提取4类核实体，撑业务场景 Tool Calling效识别，准确率超91%AI业务正经历从固定流程执向主推理决策的范式转移。随着模型推理能（Reasoning）的增强，业务形态划分为三个层级：Fixed Workflow：基于规则/SOP/RPA的确定性流程。AI-Enabled Workflow:定义主流程，关键节点嵌AI能（如翻译、修图）解决传统编码难题。Agentic Workflow:由

6、模型主导推理、规划与决策（如智能退款判定），实现“感知-决策-执”闭环 随着推理模型的普及，平台侧需重点解决以下盾：存量业务的兼容与演进 平台对创新范式的撑效率LLM从成范式向推理范式问题挑战基于作流的AI编排架构-AgenicMagic框架从固定SOP到主决策，兼容存量与敏捷创新的全栈编排引擎双模共存：Workflow与AI Agent能共存 泛化编排：灵活并通化持各种AI应范式 可视构建：基于可视化的FlowUI 思维链增强：包括CoT、ToT等思维链节点 上下流转：数据上下的流转和转换 全域适配：流式/流式、同步/异步的持单智能体框架架构聚焦主推理与闭环执的核引擎设计FunctionCa