02-姜剑-云小二Aivis的架构实践-基于上下文工程与多智能体的自主服务新形态(1).pdf

1、 云小二云小二AivisAivis的架构实践：的架构实践：基于上下文工程与多智能体的自主服务新形态基于上下文工程与多智能体的自主服务新形态演讲嘉宾演讲嘉宾：阿里云：阿里云 姜剑姜剑(飞樰飞樰)目录CONTENT01阿里云服务领域业务背景与挑战阿里云服务领域业务背景与挑战02云小二云小二Aivis的人机协同新形态的人机协同新形态03云小二云小二Aivis的架构设计与调优经验的架构设计与调优经验04构建企业级智能服务的建议构建企业级智能服务的建议01阿里云服务领域业务背景与挑战阿里云客户服务场景概览面向云上客户的一站式服务，提供极速、专业的服务体验阿里云服务领域问题的特性意图表达意图表达从意图表达

2、层面，分以下几种情况：意图清晰：如“域名实名认证失败”等直接描述问题的核心、关键内容 意图复杂：有较多的报错log或细节描述，没有直接描述最重点的问题，有许多干扰信息 意图模糊：比如“认证问题”、“连接不上”，产品、核心要素有所缺失，导致意图模糊、不完整，存在歧义产品维度产品维度阿里云多数产品是技术属性较强的产品，例如：弹性计算：ECS、轻量、弹性裸金属 AI类：百炼、PAI、MaxCompute 存储、网络：块存储、对象存储OSS、负载均衡SLB、网关、专有网络 容器：ACK容器、弹性容器实例ECI 更多：云安全、物联网、邮箱等.问题维度问题维度根据问题属性主要分为以下两种情况：咨询类：如“

3、订单查询、开发票、退款”等常见的财务类问题；“ECS是否支持VPC、通义千问支持多模态吗”产品功能相关的问题 技术类：如“ECS服务器无法远程连接、调用API报错”等技术属性较强的问题阿里云服务领域场景在多个维度都有着独特、鲜明的特点阿里云智能服务场景业务挑战服务体验预期与服务复杂度之间的巨大鸿沟阿里云智能服务的演进路径从Chatbot，到Copilot再到智能体Agent的智能服务演进阿里云智能服务技术体系构建基于LLM和自主Agent的人机协同智能服务体系02云小二Aivis的人机协同新形态云小二Aivis的介绍“云小二Aivis”(AI+Service)：阿里云服务领域的AI数字员工，在

4、人工小二的监督下自主解决客户问题注：AI演示视频阿里云人机协同的新型服务形态从客户服务体验出发，基于“云小二Aivis”构建高效的人机协同服务云小二Aivis的低成本构建和应用通过可视化、体系化的配置业务经验，接单过程中实时自主思考、推理、调用工具、解决问题注：演示示例，非真实业务数据规模化沉淀和转换人工专家经验向优秀服务小二学习，借助Agent形态沉淀人工专家经验规模化沉淀和转换人工专家经验从优秀服务小二的接单过程中，自动化挖掘和总结人工专家经验，自动化构建Agent能力注：演示示例，非真实业务数据03云小二Aivis的架构设计与调优经验云计算领域问题的排查思路多种根因产生多种表象，关系错综

5、复杂，而问题排查思路就是一个“由果寻因”的过程注：演示示例，非真实业务数据云小二Aivis的架构设计参照客服解决问题的逻辑，设计的“Planner-Reasoner-Executor”三层Agent架构云小二Aivis的架构设计Reasoner可以根据用户意图灵活、智能的调度Executor注：演示示例，非真实业务数据Agent调优经验：架构选型的权衡根据业务场景需要，在可控性与智能化的坐标轴上，各类架构所处的位置（参考来源：How To Think About Agent Frameworks）Agent调优经验：预期清晰化核心原则：核心原则：避免模糊预期，给到足够清晰的预期，让大模型理解起

6、来没有任何的歧义和困惑。任务要求（任务要求（TaskTask）：）：是否明确详细 输出格式（输出格式（FormatFormat）：）：JSON、Markdown、自然语言 风格语气（风格语气（StyleStyle）：）：专业/友好，简洁/详细注：演示示例，非真实业务数据Agent调优经验：善用结构化形式表达注：演示示例，非真实业务数据核心原则：核心原则：相对复杂的流程、逻辑，可以优先考虑形式化、结构化方式表达，不要只用自然语言。常见形式化方法：常见形式化方法：Json、Yaml Python、Js等编程语言 伪代码