1、Agentic AI结结果果交交付付与与Serverless范范式式的的结结合合陈展凌2024年6月亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技认识到局限性LLMS不知道他们不知道的东西亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技认识到局限性那么.我们能否在提示中注入语境,让LLMS变得更聪明!?亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技MCPodelontext rotocol因为即使是最聪明的模型也
2、需要额外的数据和知识背景亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技结果导向-Speeds matters in business无服务器采用背后的原则 Faster time to market概概念念/构构思思生生产产中中亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技如何定义Serverless?使开发团队能够更快地从想法转化为应用 将无差别的重复操作和运营任务转移到 AWS或云厂商 以更低的总成本提供更高的性能和安全性Business logicAPICustom
3、erMessaging&orchestrationStorage&databasesComputePhysicalinfrastructureAWS亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技Serverless的主要历史里程碑AmazonEFSAmazonFargateAmazonLambda201520162017首次发布区域DNS解析Amazon Direct Connect集成静态时加密满足HIPPA要求延展客户端Java库延展有效载荷(2GB)价格降低服务器端加密FIFO队列S3事件提醒SLA 99.99%首
4、次发布Amazon DynamoDB加速器(DAX)Item Time to Live(ITL)Amazon Lambda 集成跨区域复制支持400KB组件预留容量S3传输加速Amazon QuickSight集成Amazon Athena集成Amazon Macie for S3标准S3 不常用访问存储每账户最多100个存储桶向SNS/SQS/Lambda发送事件提醒跨区域复制Amazon Redshift Spectrum集成VPC访问SNS 和 API Gateway 集成支持Java和PythonLambdaEdge支持Node.js v4.3 和 C#Amazon SAM首次发布Am
5、azonSQSAmazonS3AmazonDynamoDB亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技更快的启动时间安全与隔离更好的资源利用率FirecrackerLambda 的技术基础用于无服务器计算的安全快速的微虚拟机GUEST OS&容器负载RATE LIMITING网络存储RESTfulAPIMetadataService客户端201820192020202120222023亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技E2B Infrastructure9亚
6、马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技亚马逊云科技Orchestrator负责管理沙箱生命周期,Template Manager则处理环境模板和构建Orchestrator与Template ManagerFastAPI Server 管理代码执行请求,Jupyter Kernel 在独立环境中运行代码FastAPI&Jupyter KernelClient Proxy负责将流量导向合适的沙箱,Envd Service则在沙箱内提供文件系统和进程服务Client Proxy与Envd Service010203Core Component