保护管理创新：解锁机器视觉软件的最大价值-上海泰雷兹智能卡技术有限公司王琮浩.pdf

1、保护 管理 创新解锁机器视觉软件的最大价值THALES GROUP LIMITED DISTRIBUTION-SCOPE 2Thales 2024 All rights reserved.Thales 2025 All rights reserved.机器视觉AI软件/大模型的机遇和挑战商业模式 设备设备+软件捆绑软件捆绑 模型即服务（模型即服务（MaaS）开源于开发者生态合作开源于开发者生态合作 技术支持，培训服务收费技术支持，培训服务收费 按效果付费按效果付费 数据管理和分析增值服务数据管理和分析增值服务 软件授权许可与订阅模式软件授权许可与订阅模式 永久授权永久授权 订阅订阅 功能模块功

2、能模块 使用量使用量政策法规标准 中国制造2025 新一代人工智能发展规划 数据安全法 人工智能训练数据标注通用要求“机器人+”应用行动实施方案 Cybersecurity Resilience Act GDPR（2018）AI Act（2021）Global G3 Standards Blueprint for an AI Bill of Rights AI Executive Order(2019/2023)California Privacy Rights Act 安全风险 模型盗用 模型篡改 模型应用攻击 模型训练跃迁 应用滥用误用 数据隐私泄露 决策偏见误差 场景应用 质量，外观缺陷

3、检测 高精度，复杂形状测量 装配定位引导 辅助影像分析 环境感知，检测，目标跟踪 自动分拣，分类 数据，行为分析 3This document may not be reproduced,modified,adapted,published,translated,in any way,in whole or in part or disclosed to a third party without the prior written consent of Thales 2025 THALES.All rights reserved.AI大模型组件 Vendor ApplicationInfer

4、ence StackModel loaded into StackInputOutput 应用程序：独立软件供应商（ISV）的应用程序，将 AI 作为产品的一部分，通常用于增强或扩展功能 推理堆栈：推理引擎加载、解释和执行模型（例如生成预测或分类），运行时管理供应商应用程序与机器学习模型之间的数据流，实时处理输入、处理和输出。推理堆栈通常嵌入在供应商应用程序中。机器学习模型：描述模型及其所有参数和结构的文件。Note:Inference Stack is often embedded within the Vendor ApplicationML Model 4This document ma

5、y not be reproduced,modified,adapted,published,translated,in any way,in whole or in part or disclosed to a third party without the prior written consent of Thales 2025 THALES.All rights reserved.AI模型在不同部署环境的潜在风险核心边缘5This document may not be reproduced,modified,adapted,published,translated,in any way

6、,in whole or in part or disclosed to a third party without the prior written consent of Thales 2025 THALES.All rights reserved.AI大模型 攻击l迁移学习攻击：l 攻击者在一个任务上训练模型，然后在另一个任务上微调它，使其将有害行为或偏差转移到下游任务OWASP Machine Learning Security Top Ten|OWASP Foundationl模型投毒：l 攻击者操纵模型的参数，通过引入恶意模式或偏差造成有害行为和丧失准确性l输出完整性攻击：l 攻击