爱分析：2024大模型安全流通平台市场厂商评估报告：揽睿星舟（22页）.pdf

1、 1?|?-?2?|?-?1.?1 2.?4 3.?8 4.?14?15?16?17 3?|?-?1?|?-?1.?模?2023?ChatGPT?2023?2023?CIO?CTO?CEO?CMO?务?2023?务?50?2023?够?2024?120?够?务?务?务?LLMOps?够?2?|?-?送?3?|?-?4?|?-?2.?l?图 1 大模型开发及应用全流程?覆?务?务?5?|?-?l?务?l?告?CEO?IT?IT?l?AI?AI?务?务?务?AI?告?务?AI?告?务?l?模?6?|?-?l?1.?2.?1?POC?7?|?-?8?|?-?3.?Lanrui-ai?务?AI?AI?

2、AI?AI?Serverless?AI?AI?模?CPU?KMS?9?|?-?图 2 一站式 AI 服务平台和 AI 应用生态揽睿星舟架构图?揽睿大模型流通解决方案主要赋能四类参与主体，包括：数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门。在能力方面，该方案支持客户一键构建安全开发环境，为大模型各参与方提供全方位的安全保护。在算力方面，相较于自建计算中心或采购大型云厂商算力，揽睿星舟可以为客户提供高性价比算力支持。此外，方案通过不可篡改的方式保留数据授权记录与模型调用记录，进而解决商业收益分配问题，加速大模型生态共建。在服务经验方面，揽睿星舟 AI 客户众多，

3、拥有丰富的服务经验，深刻了解用户需求。l 赋能大模型生态各方，为要素流通保驾护航。大模型开发及应用全流程主要涉及数据提供方、基础模型开发者、参与行业大模型调优的服务团队以及使用大模型的业务部门等四类参与主体。在大模型应用落地过程中，四类参与主体通常缺一不可，合作过程中需要解决信任及隐私安全保护问题，其中包含：数据提供方面临数据被使用过程中的各类不安全因素；基础大模型 10?|?-?开发者面临基础模型产权被窃取风险；参数调优服务方面临数据可触达性以及调优成果遗失风险；业务方面临事关核心商业竞争力的业务数据泄漏危险。揽睿大模型流通解决方案集成了多项技术能力，从机密可信计算到跨云算力调度、数据编排等

4、，可以为各类参与主体提供模型、数据集与服务有效安全串联，实现数据和模型的保护。图 3 揽睿大模型流通解决方案示例 在解决方案的保护下，大模型生态的各类参与主体都能够在合法合规、保护本方数据、产权与权益的前提下安全、高效地协作，同时也满足用户对于模型专业化的需求，赋能大模型技术进步和产业落地。l 提供集群运行环境的全方位可信安全保护。揽睿大模型流通解决方案的安全核心是自研的机密可信计算产品“星舟密方”。“星舟密方”是基于 TEE 和 TPM 硬件构建的云原生可信机密计算集群，为揽睿大模型流通解决方案提供通、安全、效的“零信任”计算环境。“星舟密方”利用机密计算硬件的能力，确保整个计算环境中的任何

5、一方，包括数据中管理 11?|?-?员、云平台管理员在内，都必须经授权才能够访问计算集群，或通过计算环境的基础设施进行其他类型的攻击。相较传统仅支持进程级别、虚拟机级别的安全防护方案，“星舟密方”在提供运维及迁移便利性的基础上为用户增强了整个集群的安全性与完整性。方案所涉及的安全核心技术已获得中国信通院多项性能与专项评测。l 提供高性价比且丰富的算力支持。在成本方面，揽睿大模型流通解决方案支持异构算力的完整、安全接入，整合闲散算力“化零为整”对外提供服务，包括但不限于标准化的弹性算力资源、开箱即用的工具和模型生态，为用户提供“按需使用、按量计费”的算力使用模式与更有竞争力的算力价格。除接入国际

6、主流硬件外，揽睿星舟也在积极参与国产硬件的接入。通过与国内的硬件供应商联合测试，已积累一定成果与实践经验。“算力国产化”工作持续推进，一方面有利于揽睿大模型流通解决方案保持有竞争力的算力价格，另一方面有利于该解决方案胜任更多硬件国产化的应用场景。l 支持一站式开箱即用的 AI 开发环境与工具。揽睿大模型流通解决方案为客户提供一种先进的、“无感”的异构（机密可信）计算资源服务。在系统中，用户通过一个统一且标准化的接口轻松访问所需的计算资源，无需关心背后复杂的算力调度、数据、资源配置和管理。揽睿星舟采用云原生技术，实现