1、上下文工程新范式上下文工程新范式构建自主决策构建自主决策 Agent Agent 的智能数据基座的智能数据基座演讲嘉宾演讲嘉宾:汤庆:汤庆目录CONTENT01上下文工程上下文工程02PowerMemPowerMem03PowerRAGPowerRAG04seekdbseekdb05总结与展望总结与展望01上下文工程:Agent决策的基石什么是上下文工程 Context EngineeringStructuredOutputsPromptEnginneringRAGState/HistoryMemory什么Agent的是上下文工程 指令(Instructions):任务目标、角色设定、行为规范
2、、工具描述等。知识(Knowledge):从外部获取的事实、文档片段、对话历史、长期记忆等。工具反馈(Tool Feedback):调用搜索、代码执行、API 等工具后返回的结果。LLM 类比 OS(上下文窗口是有限的)LLMOther LLMsCalculatorPython interpreterTerminalFile System(+embeddingdatabase)VideoAudioContextWindowsRAMEthernetBrowser长上下文带来的问题随着对话历史增长,模型推理速度急剧下降。同时Token用量呈线性增长,导致成本大幅上升。长上下文导致关键信息因注意力资
3、源有限而被弱化,重要指令易被淹没。成本问题准确度问题性能问题长上下文问题长上下文导致整体响应时间延长。https:/ 02PowerMem:让Agent拥有记忆PowerMem 整体架构图Python SDKMCPCore(记忆引擎)分层记忆共享记忆私有记忆工作记忆短期记忆长期记忆智能记忆处理器记忆的新增(事实抽取)记忆的更新记忆的冲突检测记忆的压缩记忆的全生命周期管理(模拟人类记忆)基于时间/访问频次的强化学习ts存储层模型层:Embeding/LLMGPT/Qwen/DeepSeek/.OceanBase/seekdb/sqlite/混合检索(向量/文本/知识图谱)多跳图遍历支持子存储(S
4、ub Stores)信息输入工作记忆重要性估短期记忆强化学习长期记忆遗忘衰减自动清理高重要性很少使用频繁使用重要性提升中等重要重要性降低艾宾浩斯记忆遗忘API ServerPowerMem 核心特性 核心特性记忆新增记忆更新记忆合并开发者友好基于认知科学的记忆遗忘规律,自动计算记忆保留率并实现时间衰减加权,优先返回最近且相关的记忆,让 AI 系统像人类一样自然遗忘过时信息Multi-Agent 支持为每个智能体提供独立的记忆空间,支持跨智能体记忆共享和协作,通过作用域控制实现灵活的权限管理混合检索/多路召回融合向量检索、全文搜索和图检索的多路召回能力,通过 LLM 构建知识图谱并支持多跳图遍历
5、,精准检索复杂的记忆关联关系基于艾宾浩斯遗忘曲线的记忆遗忘管理python SDK/MCP 方式接入多模态记忆自动将图像和音频转换为文本描述并存储,支持多模态混合内容(文本+图像+音频)的检索智能记忆提取用户画像支持千人千面的用户画像特性解读:智能记忆提取 原始信息通过LLM提取实体-关系-实体构成的三元组存入数据库graph_entities【实体】id(主键)name(实体名称)entity_type(实体类型)embedding(向量嵌入)created_at(创建时间)updated_at(更新时间)graph_relationships【关系】id(主键)source_entity_
6、id(源实体 ID)destination_entity_id(目标实体 ID)relationship_type(关系类型)user_id(用户 ID)agent_id(Agent ID)run_id(Run ID)created_at(创建时间)updated_at(更新时间)xxxxxxxxxxxxxxxxxxx抽取事实向量Embedding已存在的记忆LLM 判定Actions(ADD/UPDATE/DELETE)存入数据库通过LLM提取特性解读:记忆遗忘管理 传统记忆系统将所有记忆视为同等重要,而遗忘曲线理论表明:1.时间相关性:最近创建或访问