王小东-金融大模型的训练和业务应用探索.pdf

1、金融大模型的训练和业务应用探索王小东|新希望金融科技王小东新希望金科/AI中心总经理曾就职于华为2012实验室和蚂蚁金服人工智能部，从事大数据和AI技术相关研究 11年左右。现就职于新希望金融科技，担任AI中心总经理，负责研发基于 AI 和大模型的创新型产品和新技术探索与突破以及风控算法研发，研发成果多次在未来银行大会进行发布。以第一作者申请发明专利30多项，发表论文近10篇。工作期间获华为2012实验室代码百强员工，新希望金融科技总裁特别奖，金熊猫高价值专利奖，成都市新经济领域人才，Qcon，Fcon，AICon优秀讲师和出品人等，Datafun金融风控/大模型/AI+BI专题出品人和讲师，

2、AiDD研发数字峰会讲师等，主持多项四川省科技厅重点项目、AI项目、揭榜挂帅项目等，获得多项科技成果等奖项。目 录CONTENTSI.行业大模型的重要性II.金融大模型训练与微调III.基于金融大模型的语音机器人落地方案IV.总结与展望行业大模型的重要性PART 01大模型在风控领域应用风控策略自动挖掘风险策略，风险策略s搜索，风险策略编写。丰富用户画像提取非结构化图像，视频，文本，语音中包含的用户特征，如背景，职业，残障，表情等。风险模型开发按照对话方式建模，通过自然语言交互完成模型开发与评估。风险监测分析案例，阅读个案，分析信贷潜在风险，报告解读发现风险等。反欺诈识别识别身份证，人像，语音

3、等真假，提取欺诈特征，构建多模态关系网络等。舆情发现爬取信贷领域网站数据，自动总结文本，分析风险，分析小微企业行业变化趋势，分析政策对定价影响等。风控大模型在办公中的应用Jupeter，Pycharm，Vscode等常用工具集成Deepseek等大模型提升研发效率。Word，PPT，Excel等办公软件集成Deepseek等大模型提升报告撰写效率和报告自动生成能力。ChatBI提供自然语言交互的BI分析助手，提升数据分析和可视化效率。工具集成支持Word，PPT，Excel，PDF，图像，语音，视频等非结构化知识文档结构化，并提供文字/图像/语音等搜索。AI质检，政策问答，AI面试，RPA自动

4、化，建模问答自动化，策略建议等。文档搜索其他知识助手提供知识库管理和检索，提供Agent能力平台，解决日常问题答疑，问题排查效率。报告生成大模型在研发中的应用代码生成自然语言交互问答生成功能代码。自动化测试单元测试，集成测试，页面测试等。代码Reveiew进行代码Review，检查代码规范，代码注释等。大模型在运营中的应用催收话术辅助，AI机器人催收，通话总结，催记生成，用户画像提取，法律文书编写，贷后报告编写，催员陪练，AI质检等。交易侦测线索查找，AI侦测，活体/身份证/语音/文档等智能风险分析，报告生成，审查助手等。AI客服，话术辅助，坐席陪练，AI质检，知识库助手，智能问答，画像提取，

5、服务流程总结，客户意图自动打标等。客服电销营销文案生成，营销话术生成，营销线索查找，客户标签生成，营销视频生成，AI质检，销记生成等。大模型存在问题与微调重要性大模型01幻觉02可解释03可靠性04时效性05精准性金融大模型训练与微调PART 02微调步骤1.数据训练数据量级，训练数据质量，训练数据多样性等3.模型选型微调模型选型，基座模型可行性分析，模型效果预估等2.显卡训练模型集群搭建，显卡监控，训练服务搭建等4.模型训练模型训练环境搭建，模型自动训练搭建，模型可视化训练等数据清洗conversations:from:human,#人类指令 value:你好，我出生于1990年5月15日。

6、你能告诉我我今天几岁了吗？,from:function_call,#工具参数 value:name:calculate_age,arguments:birthdate:1990-05-15,from:observation,#工具回答 value:age:31,from:gpt,#模型回答 value:根据我的计算，你今天31岁了。,#tools里面包含系统提示词和工具描述 tools:name:calculate_age,description:根据出生日期计算年龄,parameters:type:object,properties:birthdate:type:string,descrip