2罗瑞翛基于Flink的实时推理与Agent构建.pdf

1、基于Apache Flink的Agent构建与实时推理演讲嘉宾：罗瑞翛(xio)阿里云高级产品经理分享前小调研Apache Flink 是一个框架和分布式处理引擎，用于在无边界和有边界数据流上进行有状态的计算，已成为流计算事实标准Apache Flink是什么正确性保证Exactly-once 状态一致性事件时间处理成熟的迟到数据处理分层APISQL on Stream&Batch DataDataStream APIProcess Function(Time&State)卓越性能低延迟高吞吐内存计算大规模计算水平扩展架构支持超大状态增量检查点机制运维聚焦灵活部署高可用快照保存点 企业级引擎功

2、能与性能领先社区，平台化能力帮助用户专注于实时业务实现与运行实时作业开发与运行平台作业资源自动调优作业全生命周期管理智能运维诊断Open API 集成能力Serverless资源管理全链路监控报警企业级Flink增强计算引擎细粒度资源分配企业级SQL 算子优化动态复杂事件处理企业级数据摄入自研向量化引擎与存储状态参数与资源动态调整100%兼容开源 Apache Flink 内核OSSSLSMaxComputeApache PaimonSLSApache PaimonTair/RedisRDS MySQLKafkaKafkaRDS MySQLOceanbaseOceanbase阿里云实时计算Fl

3、ink版AI 编程Chat BIDeep Research购买评论点击传感由用户主动触发由系统自动触发交互对话型 AI Agents事件驱动型 AI Agents为什么Agent时代需要实时流计算为什么Agent时代需要实时流计算Batch洪峰式流量延迟Streaming细水长流实时我们想如何助力Agent？An open-source framework for building event-driven streaming agentsApache Flink 社区推出的全新开源子项目，是一个用于构建事件驱动型智能体的开源框架Apache Flink Agentspip install f

4、link-agentsStep 1Step 2Agent开发Step 3提交至Flink集群运行Demo演示SourceKafkaSinkLakehouse/KafkaFlink作业With Flink Agents实时流入实时处理&分析实时流入Actione.g.发送通知实时行动对新增商品评论进行实时分析与实时行动新增商品评论Demo演示Flink Agents ArchitectureBuild a Workflow Agentclass MyAgent(Agent):action(InputEvent)staticmethod def process_input(event,ctx):.

5、ctx.short_term_memory.set(id,event.input.id ).ctx.send_event(ChatRequestEvent(.)AgentActionEventMemoryChat with a LLMchat_model_connectionstaticmethoddef ollama_server():return ResourceDescriptor(clazz=OllamaChatModelConnection,request_timeout=120 )chat_model_setupstaticmethoddef review_analysis_mod

6、el():return ResourceDescriptor(clazz=OllamaChatModelSetup,connection=ollama_server,model=qwen3:8b,prompt=review_analysis_prompt,tools=notify_manager )Chat Model ConnectionChat Model SetupChat with a LLMaction(InputEvent)staticmethoddef process_input(event,ctx):msg=ChatMessage(.)ctx.send_event(ChatRe