赵彦杰-大模型应用市场安全研究现状与挑战.pdf

1、大模型应用市场安全：研究现状与挑战赵彦杰|华中科技大学演讲嘉宾赵彦杰华中科技大学博士后&武汉金银湖实验室特聘研究员博士毕业于澳大利亚莫纳什大学。研究领域集中在移动软件工程、移动安全以及大模型的应用与安全，主要目标是研发先进的算法和工具以自动检测或修复软件缺陷和漏洞。至今已经在多个高质量的期刊(如TSE、TOSEM)和会议(如ICSE、ASE、ISSTA、WWW)上发表了多篇与移动应用程序分析相关的论文。此外，她致力于探索将大模型应用于软件工程领域的新方法，曾指导学生完成全球首篇大模型在软件工程中的应用综述相关论文并于2024年被TOSEM接收。目 录CONTENTS1.大模型应用概述2.主要安

2、全挑战及其应对、防范措施3.大模型应用安全风险分析4.总结与展望大模型应用(LLM app)概述PART 016LLM app是LLM发展的产物Wang,S.,Zhao,Y.,Hou,X.,&Wang,H.(2024).Large language model supply chain:A research agenda.arXiv preprint arXiv:2404.12736.图：LLM供应链定义及各个组成部分LLM供应链下游生态的重要组成7LLM app的蓬勃发展OpenAI 统计，GPT Store上线短短 2 个月，用户已经创建超过 300 万个 GPTs。FlowGPT 每月超

3、过400万活跃用户，近期还成功完成 1000 万美元的Pre-A融资。Coze中app的部署：海外版可以发布到Discord、Telegram、Cici、WhatsApp、Twitter等；国内版目前主要支持飞书、豆包、微信公众号、微信、掘金等其他自定义渠道。Zhao,Y.,Hou,X.,Wang,S.,&Wang,H.(2024).Llm app store analysis:A vision and roadmap.arXiv preprint arXiv:2404.12737.(SE2030)8LLM app的蓬勃发展Wang,S.,Zhao,Y.,Hou,X.,&Wang,H.(202

4、4).Large language model supply chain:A research agenda.arXiv preprint arXiv:2404.12736.2024年2月5日，宜家宣布，在OpenAI旗下GPT Store推出”AI家居助手（IKEA AI Assistant）”，定位是人工智能驱动的家居设计、灵感和购物工具。“您能否描绘一下有了这些产品之后我的厨房会是什么样子？”图：IKEA AI Assistant图：IKEA AI Assistant使用示例9LLM app生态组成Zhao,Y.,Hou,X.,Wang,S.,&Wang,H.(2024).Llm app

5、 store analysis:A vision and roadmap.arXiv preprint arXiv:2404.12737.(SE2030)图：LLM app生态系统组件和运行机制10LLM app(大模型应用)Zhao,Y.,Hou,X.,Wang,S.,&Wang,H.(2024).Llm app store analysis:A vision and roadmap.arXiv preprint arXiv:2404.12737.(SE2030)LLM app是一种专门利用大型语言模型（LLM）能力的应用程序，提供针对特定任务或用户需求的独特功能。与传统移动应用不同，LLM

6、 app主要依赖于LLM提供商的平台和硬件基础设施，如GPT Store、Poe等，这些平台不仅托管应用，还提供必要的计算资源和优化环境。LLM app vs.Agent：LLM app提供基于大型语言模型的功能和服务，而agent则利用这些LLM app主动执行任务并与用户或其他系统进行智能交互。11LLM app store(大模型应用商店)Zhao,Y.,Hou,X.,Wang,S.,&Wang,H.(2024).Llm app store analysis:A vision and roadmap.arXiv preprint arXiv:2404.12737.(SE2030)LLM