2025QCon全球软件开发大会-上海站嘉宾演讲PPT合集（共67套打包）

1、Memory EngineeringDify 在记忆工程上的探索Harry Backend Engineer Dify.AI目录概览01为什么要有记忆管理Transformer 的根本限制02工业界现状应用层 vs 模型层03Dify 解决方案基于记忆架构的产品设计与实现04未来展望关于 Memory 未来的思考为什么要有记忆管理？解决大模型健忘的根本问题大模型是无状态的LLM 的出现改变了 A。

2、从稳定到共情：对话式 AI 与硬件交互的技术探索陈策目录01020304005智能硬件市场概况网易云信对话式 AI 技术架构硅基生命也有温度典型案例未来展望01智能硬件市场概况市场规模与需求：全球出货量及家居、穿戴等细分领域占比，用户需求2023全球智能硬件（含智能家居、可穿戴、教育/养老/陪伴机器人等）出货量约 18 亿台，同比+12%；其中智能家居占比 62%，可穿戴占比28%，其它（玩具、。

3、趣丸运维 AI Agent黄金从 1.0 到 2.0 的自学习进化实战现任趣丸科技基础架构组负责人，负责多云基础设施建设和研发效能相关平台。10年工作经验，专注于多云基础设施和AIGC赋能项目。在容器技术、高可用系统架构设计以及人工智能领域积累了丰富的实践经验。积极参与开源贡献，多次在国内知名技术峰会上分享。目前正积极探索AIGC技术在研发流程中的创新赋能方式。趣丸网络-基础架构负责人黄金请替换。

4、多智能体驱动的企业级ChatBI 落地实践陈叶超目录01020304喜马 ChatBI 背景和挑战喜马 ChatBI 产品与架构构建可持续进化 ChatBI未来展望和规划01喜马 ChatBI 背景和挑战ChatBI 研发背景用数门槛高：找数难、取数难、不会写 SQL数据不平权：业务团队排队等需求，需求响应慢、依赖数据产品和自助取数业务痛点数据消费效率低、数据价值得不到释放人力成本高、交付压力大。

5、从到AI驱动快告流量全链路观测实践鲜嘉麒快/商业化架构录01020304告推荐链路的消耗与成本率归因数据采样分析扩展多渠道观测指标成式技术驱动告链路动化成探讨：如何提升可观测交付完整性01告推荐链路的消耗与成本率归因告推荐链路的可解释性问题 可解释性 模型数量模型依赖重 告产链路 告推荐链路 告转化链路数据链路复杂 检查成本 指标建设质量业务指标多召回通路召回通路召回通路混排曝光告库物料传输通道。

6、当搜索遇见AIGC：京东的千人千面素材生成实践Jason Li主要内容1、电商的发展历程回顾2、电商2.0会是什么样子3、千人千面的商品素材生成4、我们能为商家做些什么电商的发展历程回顾电商的发展历程回顾传统交易阶段传统交易阶段20世纪60年代以前物物交换-货币交易、纯线下交易电商技术萌芽阶段电商技术萌芽阶段20世纪70年代1990年EDP/EDI 技术奠基、无纸贸易出现互联网电商起步阶段互联网。

7、小米可观测性在AI基建的实践之路马千里目录01020304问题与思考可观测平台现状AI 可观测性可观测性AI05未来规划01问题与思考业务概况指标 1400W/秒所有业务日志 700TB/天所有地区链路 300W/秒事件 200W/天高频痛点 系统多：自建系统、外采系统 框架多：开源框架、自研框架 语 言 多：Java、Python、Golang、C+用法多：各类工具混用场景多 难定位：告警多、。

8、具身智能中的 VLA 技术及其应用隋 伟源自智能驾驶，通往通用智能赋能智能驾驶让人类生活更安全、更美好加速机器智能进化促进人机和谐伴生共通的三大计算任务计算架构开发平台智能算法产业生态环境感知人机交互决策控制为机器人创造更简单的全链路开发基础设施机器人操作系统TogetheROS.BotROS2Model ZooLinuxUbuntuLinaro云端机器人云端开发环境仿真环境数据生成训练降本简易。

9、隐私不上云，模型放：通过结构化语义标签实现隐私防墙腾讯武实验室 陈昱01模型隐私泄漏险传统案局限背景与挑战模型服务隐私泄漏险 输与输出通常会被记录于控与调试 数据可能被于产品优化，除你明确选择退出 存储与备份可能位于不同地域甚跨境 障与滥审核可能让少数运营或程员接触到这些数据 删除请求往往存在延迟，备份与快照法即清除模型服务商隐私政策 提交合同、代码或客户资料会被写志或索引 外部搜索与第三接可能。

10、技术管理基本功修炼从骨干到带队的转型实践顾彬彬转型初期，你是否有这些困惑？个人能力与团队效果的落差写代码顺风顺水，带团队却力不从心。自己能搞定的问题，团队却经常卡壳，感觉管理比写代码难太多了。管理范围的认知偏差以为只盯代码质量就够了，却发现还要操心效率、成长等额外事。代码没问题，项目却延期，成员没进步。管理目的的迷茫不知道管理到底为了什么，陷入瞎忙。每天做很多事，却没拿到核心结果，感觉缺乏方向感。

11、AniSora 动画视频生成技术应用蒋宇东目录01020304动画视频生成的问题和挑战动画视频生成的问题和挑战AniSora技术技术框架框架技术落地挑战与解决方案技术落地挑战与解决方案动画视频智能创作的未来动画视频智能创作的未来01动画视频生成的问题和挑战动画视频生成的问题和挑战视频生成技术发展背景U-Net2024.022024.03Open-Sora 0.7BOpen-Sora-Plan20。

12、前端程 3.0郭华翔付宝级前端技术专家企业级智能研发与 Agent 系统落地录0102030405前端程在 AI 时代的演进上下程-企业级前端研发的上下管理智能的具体系-让具具备智能智能作流-基于 Multi-Agent 的 Agentic Workflow 实现总结与未来展望01前端程在 AI 时代的演进前端程 3.0 背景及智能研发的思考企业级前端研发领域临的挑战Software Engin。

13、火山引擎 Prometheus 面向大模型场景的优化实践郭刚平目录01020304大模型场景指标观测需求和挑战火山引擎 Prometheus 优化思路火山引擎 Prometheus 优化实践总结与展望01大模型场景指标观测需求和挑战大模型场景 Prometheus 全栈监控CPU 服务器GPU 服务器网络 RDMA分布式存储AI基础设施(IAAS)推理服务API模型开发MCP、Agent 开发A。

14、AI Coding 实践：PRD 到代码直出的探索王光景红书社交客户端负责录01AI Coding 发展史和现状02客户端 AI Coding 关键解法03典型业务场景与需求分析04总结和展望01AI Coding 发展史和现状AI模型的发展-2017 年 Google 提出Transformer 架构后，AI领域产命性突破，应场景不断拓展，逐渐渗透到各个领域。-2023 年开始，LLM 的最上。

15、NES 模型训练的探索逐云目录010203040605我们做了什么数据工作模型训练模型评测未来展望01NES场景的探索我们的工作我们做了什么Aone 大图我们做了什么应用入口产品能力基础能力底层依赖常规补全和NES 对比常规补全NES补全的问题无法修改既有代码：补全范围被严格限制在光标位置，对于修改、重构前文代码的需求束手无策。触发方式单一死板：仅在用户输入字符或回车后触发。当用户希望在代码的任。

16、MegatronApp：面向万亿参数大模型的训练与推理增强实践赵伯罕目录010203040605大模型训练中的典型困境MegatronApp：把训练从“黑箱”变为“可控系统”MegaScan：让慢节点无处藏身MegaFBD：解耦前后向计算实例MegaDPP：弹性流水线调度MegaScope：训练过程实时可观测07总结与展望01大模型训练中的典型困境模型参数迈向万亿级新纪元2020175175 B。

17、面向未来的DevSecOps：Kodem如何用AI重塑应用安全刘永强目录01020304AI 重构 DevSecOps：趋势与角色“安全左移”和团队现实的差距和现实挑战从“工具集合”走向“平台化的安全智能”践行“安全平铺“将 AI 集成到 DevSecOps的最佳实践01趋势与角色AI 重构 DevSecOps传统安全治理原则 安全左移SecurityRequirementDesignDevel。

18、端侧大模型操作系统的架构、优化与展望Mengwei Xu(徐梦炜)目录010203040605Mobile intelligence before LLMOn-device LLMThe changes LLM brings:AppThe changes LLM brings:OSThe changes LLM brings:H/WTakeawaysMobile intelligence bef。

19、基于Ray的AI程化实践模型端到端的训推链路优化郑志升 B站-基础架构部技术专家录01020304场景与痛点概况Ray+LLM的分布式流批推理管道Ray+Verl的强化学习训练优化总结与展望01场景与痛点概况Case1-应具类数据处理 字幕提取，CPU密集型 LLM和多模态推理，涉及GPU计算多业务诉求 部分流程致，字幕提取、抽帧、抽段 差异在于业务的抽取逻辑，分析逻辑不致业务驱动 右侧为光段链。

20、一码多端挑战下的新跨端方案思考与实践演讲人：范绍贵关于我2013年首次创业扫码点餐Web页面、原生App开发2016年接触 ReactNativeAll In JavaScriptAndroid、IOS、服务器恋爱君等10 余款APP累计600多万用户赚了个房子首付2021年接触 WebAssembly设计了 WasmTSTypeScript 编译 wasm2022年6月结束创业加入字节，孵化 。

21、动态化与参数化RAG技术探索艾清遥目录0001020304背景与动机生成中的动态信息需求建模检索与生成的动态信息解耦基于参数化知识注入的检索增强未来展望大语言模型的崛起 作为信息工具，大模型有诸多优点优点：自然的用户交互方式用户交互方式 自然语言理解理解与推理推理能力 强大的任务泛化任务泛化能力获取1亿用户所用时间大语言模型的崛起 与传统检索系统相比，大模型也存在致命缺陷：严重的幻觉幻觉问题 无。

22、蚂蚁大促场景下的全链路压测体系构建与保障实践刘凯宁个人简介刘凯宁 蚂蚁集团 SRE技术专家 多次参与蚂蚁集团超大型活动的稳定性保障，承担过大促保障队长、全链路压测负责人、全链路资源容量负责人、全链路资金安全保障负责人等角色 QCon2024 上海站明星讲师目录01020304蚂蚁大型活动保障架构概览蚂蚁全链路压测体系蚂蚁大促全链路压测实战未来已来！AI 压测初探01蚂蚁大型活动保障架构概览 支付。

23、开放世界中的多智能体协作与博弈(打造最高效的“AI 团队”)Raphael Shu目录0102030405开场与破题：Magnetic-One System 案例LLM 给多智能体系统带来了什么？企业落地：协作效果评估与打造高效 AI 团队开放世界的多智能体协作总结与展望个人简介Raphael Shu 2020 年东京大学博士。赴纽约大学Lecun实验室访问研究。2021 年加入 AWS AI 。

24、大小模型协同驱动安全升级基于大小模型协同的数字内容风控实践胡宜峰目录01020304背景与挑战大小模型协同解决方案设计与分析基于大小模型协同的数字内容风控实践未来展望01背景与挑战背景发展历程2012开启现代深度学习的“大爆炸”时代。AlexNet2016将网络性能和深度推向新的高度。ResNet2017构建了大模型时代的基石架构Transformer2020验证了“生成式预训练+微调”的范式G。

25、从云原生迈向智能原生：蚂蚁中间件进化之路章耿（余淮）章耿（余淮）蚂蚁集团 AI 中间件负责人目前主要负责应用框架、中间件架构、AI 中间件等方向10+年中间件工作经验，深耕基础架构领域，致力于通过推进技术架构演进，提高开发人员的研发效能自我介绍目录01020304智能原生的挑战智能原生的挑战中间件“进化”思考中间件“进化”思考蚂蚁蚂蚁 AI 中间件体系中间件体系总结与展望总结与展望01智能原生的。

26、AI 2.0 时代的大模型推理：从模型到硬件的协同优化曾书霖目录0102030405以智能革命 引领大模型推理范式变革以弹性算力集群 驱动云侧智能升级面向华为昇腾的推理优化部署实践以有限算力架构 释放终端应用潜能以大模型推理技术创新 融合人工智能产业创新01以智能革命 引领大模型推理范式变革以人工智能为代表的第四次工业革命（智能革命）极大提升人类生产力以人工智能为代表的第四次工业革命（智能革命）。

27、元数据驱动：构建下一代智能数据架构的探索与实践邵赛赛Datastrato联合创始及CTO About meCo-founder&CTO of Datastrato.The original creator of Apache Gravitino.The committer and PMC member of Apache Spark.Apache Member.Goal3Vs-Volum。

28、Hunyuan-MT：腾讯混元轻量级大模型的翻译训练与优化实践郑茂自我介绍郑茂，现任腾讯混元技术专家，混元应用算法负责人。负责混元大模型在腾讯的应用落地，包括广告、社交、娱乐、教育、客服等业务的大模型应用层效果优化。技术研究方向包括大模型复杂推理、多轮对话、翻译、RAG、AGENT 等。在ACL、AAAI、EMNLP、COLING、CVPR 等会议上发表数十篇论文。带领团队获得WMT2025 翻。

29、从上下到期记忆：模型记忆程的架构设计与实践李志宇记忆张量（上海）科技有限公司 联合创始兼CTO模型性能缩放曲线的演进历史Pre-trainingPost-trainingMem-trainingPast-2023GPT3.5/4.0Qwen 1.02024-20252025-2027GPT-O1DeepSeek-R1Qwen 2/3预训练Scaling后训练Scaling下个增曲线？在实践中学习。

30、语音大模型：从级联到端到端杨学锐目录010203040605LLM 如何重塑语音技术如何构建端到端语音模型表征如何构建端到端语音模型架构如何构建端到端语音模型训推如何构建端到端语音模型任务模型评估：什么是好模型01LLM 如何重塑语音技术LLM 如何重塑语音技术 传统语音技术 流水线式架构：误差逐级传递，信息流失；理解：只能处理简单指令，无法进行多轮、多模态的深度推理；表达：TTS声音机械，韵律。

31、徐榜江湖流一体：湖流一体：基于基于 Fluss Fluss 和和 Lance Lance 构建实时多模态数据湖构建实时多模态数据湖目目录录01010202030304040505AIAI时代对数据湖的需求与挑战时代对数据湖的需求与挑战FlussFluss 流存储流存储 和和 LanceLance湖格湖格式式湖流一体架构和核心收益湖流一体架构和核心收益DemoDemo:实时多模态数据湖构建实时多模。

32、把 50%值班时间抢回来：字节 SRE Agent 从 0 到 1 的降噪与排障实战董善东20251024个人&团队简介深耕 AIOps&可观测行业多年，在异常检测、根因分析、Agent 应用等领域有比较深入的行业认知和产品功能 Build 经验。曾就职于腾讯云、阿里云。团队面向整个字节内部开发者提供观测平台，与多个团队协同构建Metrics/Traces/Logs/Events。

33、飞桨大模型推理实践从集中式部署到分离式部署架构演进蒋佳军目录0104飞桨大模型推理部署背景02集中式部署架构优化03分离式部署架构优化总结与展望01飞桨大模型推理背景大模型推理需求激增GoogleGoogle 20252025 年第二季度月年第二季度月处理处理TokenToken 量量推理Token 调用量推理服务器需求大模型RL 训练思考模型思考模型RLRL 训练中推理耗时训练中推理耗时占比占。

34、破解模型推理成本难题 YRCache 以存代算加速实践张涛焱融科技CTO录0102KVCache 技术背景和挑战YRCache 多级缓存案03针对推理业务的加速实践效果04总结和未来展望01KVCache 的技术背景和挑战推理优化的两个核向模型压缩1将模型权重和激活值的计算精度从FP32/FP16降低INT8乃INT4，来降低内存占，减少数据带宽和提升计算速度量化2剪枝：移除模型中冗余或不重要的。

35、突破参数知识边界：自增强优化的检索增强大模型技术庞 亮目录01RAG 的技术背景与核心挑战的技术背景与核心挑战02在信息检索视角下构建用户反馈优化的在信息检索视角下构建用户反馈优化的RAG 实例实例03在大模型视角下高效利用外部知识的在大模型视角下高效利用外部知识的RAG 实例实例04未来方向与行业启示未来方向与行业启示01RAG 的技术背景与核心挑战What：检索增强大模型经典的检索增强生成的。

36、TRAE Agent 架构演进：从 Workflow 到 Agentic Loop张聪字节跳动/TRAE 架构师个简介 2012 年毕业，12 年规模流量基础设施系统相关作经验，精通 CDN 及性能络数据平架构设计。前在字节跳动 TRAE，致于 AI Coding 向 Agent 程能的建设。作经历：技术变迁：Web 2.0 移动互联AIEmail:录0102030406业界趋势程实践案例分享未。

37、重塑可观测边界：红书在模型时代的稳定性程实践王亚普红书可观测团队负责录01020304红书可观测现状以及 AI 时代临的挑战AI Infra 可观测：向训推服务的稳定性体系建设向稳定性提效的 AI Agent 场景建设与探索未来规划01红书可观测现状以及 AI 时代临的挑战红书可观测体系在稳定性程中的定位降发降影响红书可观测在 AI 时代的变化GPU 集群模型训练/推理Agent观测对象变化系统。

38、超节点时代的开源基础软件构建实践胡欣蔚目录010203040605什么是超节点超节点基础软件的挑战智算超节点的基础软件通算超节点的基础软件案例分享未来展望数据库：内存不足时数据落盘，导致SQL执行效率大幅下降3702.073041.992969.032920.412867.9600.22 0.25 0.27 0.29 0100020003000400000.10.20.30.41G1.5G2G4。

39、Vibe Coding 在代码成和协作过程中的实践与思考向邦宇阿巴巴 级技术专家录010203040605Vibe Coding 产品形态Vibe Coding 在阿内部的发展现状户在 Vibe Coding 过程中遇到的挑战Vibe Coding 产品身遇到的挑战积极适配和拥抱国产开源模型未来已来01不同类型的产品Vibe Coding 产品形态不同 Vibe Coding 具的主要区别Nat。

40、从客户痛点到工程化产品：火山方舟PromptPilot落地实践启示录姓名：王铁飞火山引擎大模型算法工程师AI下半场AI下半场:落地落地落地！大模型商品化AI服务普及化场景应用悖论目录010203大模型应用落地的挑战火山方舟PromptPilot的破局之道：痛点驱动的产品能力与实践路径沉淀与前行：从服务到产品的工程化启示与未来展望01大模型应用落地的挑战大模型应用落地的挑战清晰表达需求模型能力边界。

41、突破泛化瓶颈：阿里云智能运维突破泛化瓶颈：阿里云智能运维AgentAgent 评测体系实践评测体系实践李也目录01020304智能运维泛化之痛智能运维泛化之痛高质量的评测集的重要性高质量的评测集的重要性如何构建高质量的评测集如何构建高质量的评测集阿里云智能运维评测集阿里云智能运维评测集(持续发布持续发布)05基于评测集的智能运维基于评测集的智能运维 Agent Agent 能力提升实践能力提升实。

42、亿级用户背后的智能诊断：多模态数据融合与实时诊断实践徐建伟目录01020304从从人肉排查人肉排查到到AI诊断诊断：bilibili 的痛点与机遇的痛点与机遇智能诊断核心架构和演进思路智能诊断核心架构和演进思路核心场景的核心场景的 AI 化改造实践化改造实践技术演进方向与实践展望技术演进方向与实践展望01bilibili 的痛点与机遇从人肉排查到AI诊断亿级用户背景下的故障挑战：复杂度指数级增长。

43、火山引擎veCLI-命令行超级智能体的最佳实践Michael Zhang讲师介绍01讲师介绍丰富的海外开发经验丰富的海外开发经验拥有多年海外ToB和AI相关的开发经验，积累了在不同文化和市场环境下的项目经验，能敏锐洞察行业趋势。火山引擎的架构师角色火山引擎的架构师角色目前就职于字节跳动火山引擎部门，担任AI Infra架构师，负责AI Agent相关的平台产品开发工作，推动产品技术升级。veCL。

44、RLinf:A Scalable,Flexible and Large-Scale Reinforcement Learning Framework for Embodied IntelligenceChao Yu(于超)目录01Motivation02System-level Design03Algorithm-level Design01MotivationEmbodied Intellig。

45、释放生成式AI推理潜力：分布式LLM 基础设施与llm-d实践张家驹目录01020304背景与问题vLLM：单节点LLM 推理优化llm-d:分布式推理结论与行动呼吁01背景与问题CPU 与GPU 不同的编程模型Source:https:/ 推理面临的挑战在生产环境中运行大语言模型，会面临一系列工程和运维层面的挑战，这些问题直接影响延迟、可扩展性和资源利用效率。随着模型规模增大、并发量提升以及实。

46、通义多模态、多端GUI智能体Mobile-Agent徐海洋目录010203大模型智能体背景大模型智能体背景多模态多端智能体多模态多端智能体MobileMobile-AgentAgentFoundation Agent for GUI01大模型智能体背景大模型智能体背景大模型智能体系统在人工智能领域，AI智能体指可以观察周遭 环境环境 并作出 行动行动 以达致 目标目标 的 自主自主 实体大模型智。

47、TRAE 的思考：AI 时代程序员的认知进化天猪（刘勇）TRAE 核开发者天猪字节跳动 TRAE 核开发者开源项 EggJS/CNPM 核开发者2022.11.152023.11.152024.11.152025.11.15加字节MarsCode Cloud IDE 闭关TRAE IDE 闭关？经常跟朋友调侃说，11.15 是我的受难，重之我在搞 AI Coding。今年的 11 15 会发什么。

48、让AI不止回答问题：企业级Agentic AI重构智能生产力杨扬杨扬 Snowflake AI数据云亚太及日本地区解决方案工程副总裁An Easier to Use,Connected,Trusted Platform连接生态体系一体化集成安全与治理弹性计算与引擎互操作存储与灵活架构跨云基础设施外部引擎外部引擎合作伙伴合作伙伴Snowflake Marketplace数据工程数据工程分析分析应用。