揭光发-AIAgent构建智能应用的新范式-pub.pdf

1、AI Agent构建智能应用的新范式从 LLM 到 Agentic workflow揭光发|Tencent演讲嘉宾揭光发腾讯技术专家19年研发与团队管理经验，前腾讯云TVP。全栈低代码开发专家，腾讯低代码Oteam负责人大模型应用早期实践者与布道师。在团队中深度践行LLM对研发提效，个人代码中AI含量达90+%。国内顶级行业及技术峰会担任大模型相关话題讲师或出品人10+次。Transformer到多模态Agentic Workflow的演进GenerateCore-Text GeneratePrompt下面我将要讲一个故事。在很久很久以前，有一个小村庄坐落在群山环抱之中。村子里住着一群淳朴善良

2、的人们，他们过着平静而简单的生活。村子里有一位老奶奶，她以制作美味的糕点而闻名。每当村里有庆典或节日时，大家都会聚集在她家门前，等待品尝她新鲜出炉的点心。代码生成诗歌创作广告文案语言翻译情感分析文本分类指令格式说明步骤引导约束条件角色设定示例输出指示输入数据上下文评估标准LLM生态的两大阵营Prompt engineeringModel pre-trainingRLHF应用层炼丹师算法层AgentFlowRAGReActFunction CallFoT提示词工程师GPTBERTMoEFine-Tuning60BEmergenceMemoryContext windowLLM APP:从Text

3、 Completion 到 Agent1.text completion2.Conversation Chat2.Conversation Chat2.Conversation Chat3.Tool use-AgentAgentAgent的本质构成的本质构成名字：角色定位(instructions)：你是一位xxx，balabala知识：该agent所在领域的更多的知识文本，in Context工具集：agent可以使用什么工具来解决问题说明：让用户及其它agent了解，必要时使用它LLM：把上述信息作为prompt的内容扔给LLM，它来推理并拆解需求，并回答/解决你的需求定义AI/LLM A

4、gent流行的Agent推理与执行框架 ReAct：早期社区的主流，基于Prompt工程的方案 Question Thought Action Observation Function Call：Open AI 官方规范 把工具使用能力，预训练进模型 行业普遍跟进ReActToTGoTAgent推理与执行框架-ReActAgent推理与执行框架-ReAct17Agent推理与执行框架-ReAct22Tool use CodeReAct 提示词示例ReAct Agent SampleReAct Agent SampleAgent推理与执行框架 Function CallFunction Call

5、 Agent Sample无特别订制的提示词Function Call Agent SampleTA们的问题 一步一决策，缺乏全盘规划 一个问题多次LLM请求 容易陷入死循环（加重试次数避免）工具执行结果（数据）作为LLM决策参考 敏感数据泄露 巨型数据接口直接撑爆Context 总体感 执行时间相对长 结果不确定性高 数据安全无保障死循环Bad Case于是突然流行起另一种形态的“Agent”Flow骇！DAG或状态机，低代码的瓶子，装上LLM的酒逻辑固化下来了，不是 真.Agent有向图，状态机Flow的问题 静态Flow，只能解决固定场景的问题，对开放性问题无解 本质上是固化逻辑LLM

6、APP的无代码版 Flow是一种存在已久的成熟的低代码形态的程序 Flow并不能完全替代AgentAgent的问题亟待解决 To B Agent的需求强烈且要求高 我们从现实中解决问题的场景中借鉴更优的方案，迁移至AgentTO B Agent的诉求 三高一多 高准确性 基于真实的数据进行问答 低幻觉 高安全性 敏感数据不能出外网 甚至不能记log 高性能 如非必要，减少LLM交互现实：老板临时要数据，两种做事方法 人肉取数党 手动调三次接口、写一段SQL 再汇总和归纳一下数据，输出结果 脚本党 写个取数脚本，内容是调三次接口，写一段SQL，再通过模板渲