5汤庆-上下文工程新范式构建自主决策 Agent 的智能数据基座0114.pdf

编号:1279992 PDF 39页 4.25MB 下载积分:VIP专享
下载报告请您先登录!

1、上下文工程新范式上下文工程新范式构建自主决策构建自主决策 Agent Agent 的智能数据基座的智能数据基座演讲嘉宾演讲嘉宾:汤庆:汤庆目录CONTENT01上下文工程上下文工程02PowerMemPowerMem03PowerRAGPowerRAG04seekdbseekdb05总结与展望总结与展望01上下文工程:Agent决策的基石什么是上下文工程 Context EngineeringStructuredOutputsPromptEnginneringRAGState/HistoryMemory什么Agent的是上下文工程 指令(Instructions):任务目标、角色设定、行为规范

2、、工具描述等。知识(Knowledge):从外部获取的事实、文档片段、对话历史、长期记忆等。工具反馈(Tool Feedback):调用搜索、代码执行、API 等工具后返回的结果。LLM 类比 OS(上下文窗口是有限的)LLMOther LLMsCalculatorPython interpreterTerminalFile System(+embeddingdatabase)VideoAudioContextWindowsRAMEthernetBrowser长上下文带来的问题随着对话历史增长,模型推理速度急剧下降。同时Token用量呈线性增长,导致成本大幅上升。长上下文导致关键信息因注意力资

3、源有限而被弱化,重要指令易被淹没。成本问题准确度问题性能问题长上下文问题长上下文导致整体响应时间延长。https:/ 02PowerMem:让Agent拥有记忆PowerMem 整体架构图Python SDKMCPCore(记忆引擎)分层记忆共享记忆私有记忆工作记忆短期记忆长期记忆智能记忆处理器记忆的新增(事实抽取)记忆的更新记忆的冲突检测记忆的压缩记忆的全生命周期管理(模拟人类记忆)基于时间/访问频次的强化学习ts存储层模型层:Embeding/LLMGPT/Qwen/DeepSeek/.OceanBase/seekdb/sqlite/混合检索(向量/文本/知识图谱)多跳图遍历支持子存储(S

4、ub Stores)信息输入工作记忆重要性估短期记忆强化学习长期记忆遗忘衰减自动清理高重要性很少使用频繁使用重要性提升中等重要重要性降低艾宾浩斯记忆遗忘API ServerPowerMem 核心特性 核心特性记忆新增记忆更新记忆合并开发者友好基于认知科学的记忆遗忘规律,自动计算记忆保留率并实现时间衰减加权,优先返回最近且相关的记忆,让 AI 系统像人类一样自然遗忘过时信息Multi-Agent 支持为每个智能体提供独立的记忆空间,支持跨智能体记忆共享和协作,通过作用域控制实现灵活的权限管理混合检索/多路召回融合向量检索、全文搜索和图检索的多路召回能力,通过 LLM 构建知识图谱并支持多跳图遍历

5、,精准检索复杂的记忆关联关系基于艾宾浩斯遗忘曲线的记忆遗忘管理python SDK/MCP 方式接入多模态记忆自动将图像和音频转换为文本描述并存储,支持多模态混合内容(文本+图像+音频)的检索智能记忆提取用户画像支持千人千面的用户画像特性解读:智能记忆提取 原始信息通过LLM提取实体-关系-实体构成的三元组存入数据库graph_entities【实体】id(主键)name(实体名称)entity_type(实体类型)embedding(向量嵌入)created_at(创建时间)updated_at(更新时间)graph_relationships【关系】id(主键)source_entity_

6、id(源实体 ID)destination_entity_id(目标实体 ID)relationship_type(关系类型)user_id(用户 ID)agent_id(Agent ID)run_id(Run ID)created_at(创建时间)updated_at(更新时间)xxxxxxxxxxxxxxxxxxx抽取事实向量Embedding已存在的记忆LLM 判定Actions(ADD/UPDATE/DELETE)存入数据库通过LLM提取特性解读:记忆遗忘管理 传统记忆系统将所有记忆视为同等重要,而遗忘曲线理论表明:1.时间相关性:最近创建或访问

友情提示

1、下载报告失败解决办法
2、PDF文件下载后,可能会被浏览器默认打开,此种情况可以点击浏览器菜单,保存网页到桌面,就可以正常下载了。
3、本站不支持迅雷下载,请使用电脑自带的IE浏览器,或者360浏览器、谷歌浏览器下载即可。
4、本站报告下载后的文档和图纸-无水印,预览文档经过压缩,下载后原文更清晰。

本文(5汤庆-上下文工程新范式构建自主决策 Agent 的智能数据基座0114.pdf)为本站 (表表) 主动上传,三个皮匠报告文库仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对上载内容本身不做任何修改或编辑。 若此文所含内容侵犯了您的版权或隐私,请立即通知三个皮匠报告文库(点击联系客服),我们立即给予删除!

温馨提示:如果因为网速或其他原因下载失败请重新下载,重复下载不扣分。
客服
商务合作
小程序
服务号
折叠