4赵恒-开源Data engineering agent之路.pdf

1、开源 Data engineering agent之路by Harrison zhao Harrison.zhaodatus.aiWhy Do Data Agents Keep Failing?问题：真实世界对准确率要求极。最关键的领域知识在程师脑，对 AI 不可Dead-loop：没反馈 没改进 低使 更少反馈数据程师是最理想的 HITL（Human-in-the-loop）户，可以校验、修正、引导 AgentFrom SQL Writer to Context Engineer Contextual Data Engineering：构建“可演化的上下层”统管理：metadata/SQL/

2、语义模型/指标同时服务类和 AgentDatus ArchitectureDatus-CLI：向数据程师的 AI 命令（SQL/Pipeline 的 Claude Code）Datus-Chat：带feedback机制的多轮对话Datus-API：为其他系统/Agent 提供稳定 SQL/数据能Agent 正在逐步吃掉 workflowContext engineering is the key传统案关注：RAG 调优 schema单轮 workflow我们的案：Tree-based Context+scoped subagent针对 SQL/指标/语义/catalog 的专 subagent

3、HITL 抽取隐性领域知识Interactive Context engineering使Datus-agent批量构建knowledge base:datus-agent bootstrap-kb-components metadata/metrics/sql_history docs 使Datus-cli 交互式的成data context:/gen_sql_summary/gen_semantic_model/gen_metrics 使Datus-cli 动编辑data context:catalog&subjectProving Accuracy with a Built-in Eva

4、luation FrameworkBenchmark&Eval 是智能 Agent 的核持单轮/多轮评测：运benchmark:datus-agent benchmark workflow datus_schools运 evaluation datus-agent eval-namespace california_schools-benchmark xxx-task_ids 0 1 2 Evaluation based feedback对标准 SQL vs Agent SQL 于发现隐藏知识效果对：外部知识：26/44搜索外部知识：36/44精准外部知识：41/44User case:fro

5、m dashboard to agentsDashboard 背后隐含了之前的业务思考业务理解式 表连接经验 关键 filterdrill-down 逻辑 指标定义原因产级 SQL 模式从 Dashboard 到 Agent dashboard URL 成 subagent动抽表/SQL/指标持归因分析The boundary and value of open source开源的边界与价值为什么要开源？制定数据程 tools spec构建态适配器共享 subagent/skills 模板Search&List tools for context treeDB Toolslist_catalo

6、g list_database list_schemadescribe_table(combined with semantic model)search_tableread_query write_querySemantic toolslist_domain list_metricsget_metricssearch_metricsattribution_analysis(WIP)适应 context 压缩向量索引（LanceDB）本+metadata 混合搜索Tools spec Subagent systemScoped subagent：绑定规则