1、Developed by JetBrainsKotlin基于KMP的AI Agent 框架及实践2025 Kotlin 中文开发者大会谢智卓易信息CTO1.业务背景&难点业务介绍CPU厂商计算设备厂商上游客户客户客户最终客户非X86架构国产CPUX86架构BIOSBMC固件业务1PowerBuilder艾普阳深圳卓易信息SnapDevelop2EazyDevelopIDE业务3 云服务业务中游下游1.固件业务:与Intel深入合作,是国内唯一、全球4家之一的具备X86架构BIOS独立供应能力的服务商。2.IDE业务:与SAP长期合作,是国内唯一的基础工具软件服务商。3.云服务业务:老牌的IDC
2、数据中心服务商和智慧城市解决方案提供商。1.三条业务线的终端碎片化从嵌入式、服务器到Web与客户端,AI能力落地困难重重,严重制约了创新效率。2.多终端可观测性差。3.缺少统一评估优化的手段。AI Agent业务落地的难点2.解决方案智能体SOA框架(注册中心,心跳保持,负载均衡,通信协议)智能体云平台(管理,监控,测试,调优,下发,下载)跨端智能体终端框架(提示词,记忆,上下文,工具)KMP(js/jvm/linux/ios/android)固件业务(服务器)云服务业务AI+IDE业务整体的解决方案010203智能体管理创建智能体提示词配置工具列表模型配置版本控制智能体监控智能体调优基础设施
3、模型仓库数据集仓库运行状态日志收集动态更新内容审查性能测试告警报表提示词优化评估验证容器调度基准测试01 智能体云平台智能体终端注册智能体上报本地工具列表同步智能体同步工具列表新增智能体动态新增更新提示词/工具集动态更新保持心跳同步状态日志采集上报日志01 智能体云平台-智能体管理智能体SOA智能体云平台01 智能体云平台-智能体调优-提示词优化数据采集日志收集清洗脱敏数据提取AI质量评分日志解析数据平衡构建数据集数据增强优化执行人工优化AI托管优化混合优化优化工作流引擎:任务调度/流程编排/状态管理优化目标成本/准备率/速度优化约束Token限制/迭代次数控制评估部署多维度评估版本控制发布/
4、回滚可视化分析查看不同soa集群下的智能体运行情况:集群状态,请求数量,成功率以及不同基准下的响应时间01 智能体云平台-系统界面01 智能体云平台-系统界面查看智能体的调用日志和调用栈耗时01 智能体云平台-系统界面智能体的测试和优化:压力测试,性能测试,提示词优化01 智能体云平台-系统界面评估中心提供智能体评估能力,支持端到端、组件级和对话评估,涵盖正确性、相关性、精确度、安全性等指标,并提供测试用例管理、评估任务创建、结果查看和可视化统计,用于全面评估和优化智能体性能注册中心智能体终端智能体(提示词/记忆)(热更新)工具MCP server心跳注册工具列表提示词更新共享工具故障剔除日志
5、共享工具池状态监控配置中心智能体网关统一路由限流负载日志采集智能体中心远程控制消息队列安全权限上报下发共享工具(调用队列)02 智能体SOA框架KMP(Web /Linux/macOS/Windows/iOS/Android)注册中心行动 Action记忆 Memory03 智能体SOA框架 智能体架构智能体BaseAgentPlanningManagerPlanningStrategy接口PlanningSContent规划上下文ReflectionStrategy反射策略SelfReflectionStrategy自我反射策略PlanningResult规划结果PlanningStep规划
6、步骤StepStatus步骤状态ChainOfThoughtStrategy思维链策略SubGoalDecompositionStrategy子目标拆解策略短期记忆长期记忆记忆存储MemoryManagerActionExecutor自定义行动ToolRegistry本地工具共享工具MCP Server工具 Tools规划 PlanningBaseAction大语言模型LLM03 智能体SOA框架 共享工具调用智能体网关AgentGatewayAgentSoaContextSOA上下文AgentSoaRegistry注册中心SharedToolRegistry共享工具注册表共享工具Tool/A