郭立帆-通义点金双飞轮在Harness中演进与实践.pdf

1、通义点金双飞轮在Harness中演进与实践郭立帆|阿里云郭立帆阿里云高级算法专家成员专注于大规模机器学习及其产业应用的研究者与实践者，目前是阿里云通义点金的算法负责人，研究方向涵盖数据驱动建模、模型优化以及应用型 AI 系统等领域，论文发表在ACL,AAAI，SIGIR 等国际顶级会议与期刊近年来，致力于推动前沿 AI 技术在真实业务场景中的落地，尤其是在金融等高要求行业中，将数据合成、有监督微调与强化学习等方法进行系统化整合，持续提升模型在多样化场景下的表现。在模型能力之外，进一步关注 AI 系统的工程化演进，探索如何将模型能力与工程体系深度结合，构建稳定、高效、可规模化落地的智能系统。目

2、录CONTENTSI.背景与问题II.通义点金双飞轮解决方案与案例III.Harness时代我们的自进化与实践IV.总结与展望背景与问题PART 01当前LLM类型产品的形态：从聊天到做事解决B端Agent的核心难点的两轮技术迭代数据流程价值具通Agent01 数据03 具02 流程04 价值领域后训练偏好对具流约束具调策略领域垂直模型模型后训练-通义点金双飞轮Harness 时代-通义点金金融智能体I.模型后训练如何去对齐企业的业务与场景II.Harness时代我们的自进化与实践PART 02通义点金双飞轮解决方案与案例构建企业业务专家的路径:模仿学习与强化学习劣势：首token的延时长 僵

3、化于异常处理 变更需人工干预优势：保障输出一致性 状态透明，易追踪 节点明确，易建模，可审计性强劣势：调试复杂，行为不可预测 训练难度高优势：动态响应环境变化，能解决OOD问题 直接面向业务人员，交互简单 提高业务上限MCP基建Agent WorkflowAgentic Model可控确定性明确输入输出明确SOP流程自主灵活性长链路开放问题动态决策小飞轮模型大飞轮模型将业务知识训练到模型里面-降低API通信成本-降低模型成本从模型中寻找业务知识-自动构建场景的过程数据-帮助用户挖掘场景的SOP双飞轮解决方案模型评测质量训练数据合成过程评测垂直领域模型相关论文会议CFLUEACL 2024 M3

4、FinMeetingACL 2025FinMCP-BenchICASSP 2026CSCAAAI 2026 CFMMEACL 2026CAREICASSP 2026MSS-ESCACL 2026Fin-PRMIJCAI 2026 DianJin-R1/通义点金算法工作一览高质量轨迹数据生成轨迹数据评测奖励信号21Agentic Model3场景LLM-as-JudgeWithout LLM-as-Judge通逻辑合理性具选择正确性可追溯性新颖与可创造性计算正确性事实性数据隐私保护(PII 检测具）约束遵守控场景数据引正确性事实性依赖险因覆盖融客服场景意图识别准确性同理，安慰投资顾问场景个性化匹

5、配市场相关性事实性合规/法务场景条规遵循险识别初始数据论地址:基于作流的轨迹数据合成基于环境交互的轨迹数据合成基于状态流的轨迹数据合成基于开放任务的轨迹数据合成奖励信号轨迹数据User-LLM(Thought0 Act0 Obs0)-User-LLM(Thought1 Act1 Obs1)-核心算法架构图概览CFLUE ACL.2024SummarizationQA Pair ExtractionQuestion Answering(a)GPT-4-Judge score over different languages.(c)GPT-4-Judge score over different

6、input lengths.(b)GPT-4-Judge score over different GICS sectors.M3Meeting,ACL.2025(上市公司财务会议)CFMME ACL.2026CSC.AAAI.2025(金融客服）模型评测数据合成体系-1 基于工作流的数据合成七类场景类可扩展格基础信息+融属性数据合成体系-2 基于多智能体对话的数据合成意图识别准确率提升40%上线后效果客户留存与人工客服相当数据合成体系-2 基于多智能体对话的数据合成客户客服助服务具户提问结果呈现意图分类意图识别历史对话具注册具列表具调具调对话兜底意图澄清拒绝回答知识问答API 调功能直跳交互