阅文-马宇峰-AIGC在阅文集团的实践落地.pdf

1、AIGC在阅文集团的实践落地马宇峰 阅文集团 AIGC技术负责人 阅文简介 网文垂类AIGC应用探索智能创作角色扮演 复盘与展望目录亮点介绍1.智能创作：垂类模型构建节奏与必要性网文感内容的产出步骤2.角色扮演：数据：用数据来描述需求基座：在反馈飞轮中寻找核心壁垒业务背景1.“AI对于创作，就像辅助驾驶，但不是自动驾驶。我们要给作家提供更多辅助工具，帮助作家迸发出更多好创作。”2.“让很多以前被埋没的好故事成为IP，获得改编机会。未来很有可能成为全民创作的时代，用户可以创作自己的作品，形成自己的漫画等。”3.“AIGC也能更好地服务于我们的读者和用户。AI创作拥有非常多的互动可能性，我们内部在

2、尝试把我们作品里的每一个主角复活。我们可以走进每个故事，可以和故事的每个主人公去交流。” 领域问题定义难智能创作-如何描述网文感？角色扮演-如何描述角色“灵魂”？领域数据储备难定义难-从原始数据到专业标注数据，耗费高；评测难-要专门定义任务评测标准，偏主观的需要专家支持；领域结果获取难规模化-单case很漂亮，但无法扩展到泛化场景；业务价值-规模化成功，但业务回报低，cover不了成本；问题与挑战 领域问题定义难智能创作-如何描述网文感？角色扮演-如何描述角色“灵魂”？领域数据储备难定义难-从原始数据到专业标注数据，耗费高；评测难-要专门定义任务评测标准，偏主观的需要专家支持；领域结果获取难规

3、模化-单case很漂亮，但无法扩展到泛化场景；业务价值-规模化成功，但业务回报低，cover不了成本；破题思路 切准答案客观上：用数据来定义问题；先找答案，再反向构造指令；主观上：解决实际业务场景，不掉入伪需求；技术提效标注耗费高：基于大模型辅助标注效率；主观评测难：盲测完成后，线上直接看结果；想通业务闭环规模化难：保留方法路径，筹措对称资源（如知识库、精标数据等）；业务价值：优化推理成本，关注核心指标；智能创作核心实践开源探索阶段微调方法跑通智创场景调优网文感生成分布式训练加速混合指令SFT知识库+大模型推理妙笔大模型发布章节生成模型片段生成模型知识问答灵感生成模型解码优化动态Batch多卡

4、并行显存优化文本生成模型专项突破推理加速优化DisableCheckpointingTione(Deepspeed)Zero3PAI(Megatron)训练速度优化2023.03中2023.03底2023.042023.052023.06初2023.06中2023.06底2023.07月专项突破各开源英文版全参数Lora+P-tuning首个场景验证完成10B级继续预训练训练效率提升70%(1000-1700 token/s/gpu)模型能力的涌现RAG推理网文知识问答13B：H800:1950-4700 token/s/gpu提升241%大幅降低每千token成本13B 29token/s-

5、49 token/s提升69%200B继续预训练，网文感强化Longtext;2K-16K-32K指令遵循能力提升正式官宣智能创作核心实践增量预训练的价值指令：请用网文领域中东方玄幻题材的风格描写一段两位高手之前的对决，两位高手的名字是大明和小华。原始模型妙笔模型大明和小华站在彼此面前，脚下的地面已然被踩成了碎石泥泞，周围的空气中弥漫着刺鼻的铁锈味道。他们彼此凝视着对方的眼睛，手上的长剑缓缓举起，仿佛整个世界都静止了下来。疲惫的呼吸声随处可闻，汗水从额头滑落，滴落在地面上。大明紧握着手中的长剑，肌肉因为过度使用而不断抽搐。他的眼眸中闪烁着坚定的光芒，似乎毫不畏惧面前的挑战。而小华则显得沉默寡言

6、，只是冷静地等待着大明的攻击。突然间，大明发出一声狂吼，挥动手中的长剑向小华猛烈地冲锋而去。小华身体轻松地躲开了大明的攻击，反手拔剑反击。两人快速交错着招式，剑光如雨，划破夜空。片刻之后，大明感觉到自己的力量渐渐消耗殆尽，但仍然坚持不懈，继续与小华殊死搏斗。最终，大明还是被小华以绝杀之势击败了。他倒在了地上，口中呼出最后一口气。小华蹲下身子，仔细观察着大明的脸庞，似乎在寻找着什么。最终，他摇了摇头，站起身离去。大明和小华的对决结束了，留给世人的只有无尽的思考和猜测。谁才是真正的胜者？谁又能够永远保持胜利？这些问题或许只有当事人才能回答。“砰！”地面炸裂，草木破碎，涟漪扩散开来。大明化为一头恐怖