← 返回首页

EU AI Act 下 SaMD 的 Provider 与 Deployer 责任切割:从合同条款到合规证据链

详解EU AI Act下AI医疗器械的Provider、Deployer、Importer、Distributor责任划分,合同条款设计要点,数据治理、人工监督、事件报告和日志保留的实操框架。

陈然
陈然最后更新:

EU AI Act(Regulation (EU) 2024/1689)在 2024 年 8 月 1 日生效,但真正让 SaMD(医疗器械软件)企业感到压力的是两个节点:2026 年 8 月 2 日,多数高风险 AI 系统的核心义务开始适用;2027 年 8 月 2 日,Article 6(1) 正式适用于医疗设备——这才是 AI SaMD 企业的硬截止日。按照 Article 113 的规定,MDR/IVDR 管辖下的 AI 医疗器械属于 Annex I Section A 产品,其高风险分类和义务从 2027 年 8 月 2 日起才开始适用。

关键规则很明确:如果你的 SaMD 包含 AI/ML 组件,且属于 MDR/IVDR 管辖范围(Class IIa 及以上),它在 AI Act 下通过 Article 6(1) + Annex I Section A 路径被归类为高风险 AI 系统。依据不是 Annex III 的场景清单,而是产品本身属于 MDR/IVDR 且需要公告机构合格评定。

这就产生了一个中国企业不太熟悉的问题:AI Act 不是只约束制造商(Provider),它沿着供应链分配了不同角色的义务——Provider、Deployer、Importer、Distributor,每个角色都有具体的合规动作。而且 Article 25 还规定了一个"角色转换"机制:在某些条件下,Distributor 或 Deployer 会被重新认定为 Provider。

这篇文章把 AI Act 下 SaMD 供应链的角色切分和合同条款设计讲清楚,核心解决的问题是:中国 AI 医疗器械制造商出口欧盟时,怎么在合同里把各方责任划清楚,避免自己承担不该承担的风险。

四个角色,四套义务

AI Act 对 SaMD 供应链中的四个角色分别设定了义务。先用一张表把核心义务列出来:

角色AI Act 条款核心义务
Provider(制造商)Article 16合规性评估、技术文档、QMS、CE 标记、注册、上市后监测、事件报告
Deployer(部署方)Article 26按使用说明操作、指定人工监督人员、输入数据质量、运行监测、日志保留
Importer(进口商)Article 23合规验证、存储条件、文档保留、CE 标记确认
Distributor(分销商)Article 24上市前验证、风险信息传递、不合规产品处置

Provider:中国 SaMD 制造商最可能的角色

如果你是中国 AI SaMD 的开发者,将产品通过 CE 标记放入欧盟市场,你就是 AI Act 定义的 Provider。即使你通过欧盟授权代表间接销售,Provider 的身份不会转移——除非你满足 Article 25 的角色转换条件。

Provider 的义务在 Article 16 中列出了完整的清单,概括为几个方面:

合规性评估与 CE 标记。 高风险 AI 系统(包括 AI SaMD)需要在投放市场前完成合规性评估。对于医疗器械,这个评估与你现有的 MDR/IVDR 合规性评估合并进行——Notified Body 在执行 MDR 审核时同时评估 AI Act 的合规性。不需要两次独立的审核。

技术文档(Article 18, Annex IV)。 AI Act 的 Annex IV 列出了高风险 AI 系统的技术文档要求,与 MDR Annex II/III 有重叠但也有增量。增量部分主要是:

  • AI 系统的设计规范,包括训练方法、验证方法、性能指标
  • 数据治理策略(数据集的来源、清洗、标注、偏差评估)
  • 模型的性能指标(准确率、灵敏度、特异度等)及其在不同人群中的表现
  • 人工监督机制的设计
  • 预期变更的管理计划

质量管理体系(Article 17)。 如果你的企业已经通过了 ISO 13485 认证,好消息是 AI Act 明确允许将 AI QMS 要求整合到现有的医疗器械 QMS 中。你不需要建立一套平行的 AI 质量体系,但需要扩展覆盖 AI 特定的领域:数据治理、模型开发流程、持续监测。

上市后监测与事件报告。 AI Act 要求 Provider 建立持续的上市后监测体系,包括 AI 性能的跟踪、模型漂移(drift)的检测,以及严重事件的报告。这部分与 MDR 的 PMS 体系有大量重叠,但 AI Act 增加了对 AI 性能退化的具体关注。

日志系统(Article 19)。 高风险 AI 系统必须具备自动生成日志的能力,日志保留期至少与 MDR 要求一致(对于植入式器械为 15 年,其他为 10 年)。日志必须能支持事后的合规性审计和事件调查。

Deployer:通常是医院或诊所

Deployer 是在专业环境中使用高风险 AI 系统的实体。对于 AI SaMD,Deployer 通常是医院、诊所或医学实验室。

Article 26 规定的 Deployer 义务包括:

按使用说明操作。 Deployer 必须按照 Provider 提供的使用说明(instructions for use)来部署和运行 AI 系统。这条看起来理所当然,但实际上对 Provider 的使用说明文档提出了很高的要求——使用说明必须足够详细和清晰,使得 Deployer 能够正确操作。

指定人工监督人员。 Deployer 必须为 AI 系统指定具备相应能力的人员执行人工监督。Article 14(4) 列出了监督人员必须能够执行的五项操作:理解 AI 的能力和局限、认识到自动化偏差、正确解读输出、推翻或忽略 AI 的建议、通过停机机制中断系统运行。

输入数据质量管理。 如果 Deployer 控制了输入数据(比如医院的 PACS 系统向 AI 影像分析软件提供 CT 图像),Deployer 需要确保输入数据与 AI 系统的预期用途相关且经过适当验证。

运行监测和事件报告。 Deployer 必须持续监测 AI 系统的运行状态。如果发现使用中存在风险,必须在"无不合理延迟"内通知 Provider 和市场监管机构。严重事件必须立即报告 Provider,随后通知 Importer/Distributor 和监管机构。

日志保留。 Deployer 必须保留 AI 系统自动生成的日志,保留期至少 6 个月。

Importer 和 Distributor:欧盟境内的守门人

Importer(Article 23)是把 AI 系统从欧盟境外引入欧盟市场的实体。Importer 的核心义务是:

  • 验证 Provider 已完成合规性评估并加贴 CE 标记
  • 验证 Provider 提供了欧盟符合性声明和使用说明
  • 在产品包装或随附文件上标明 Importer 的名称和地址
  • 保留证书副本、符合性声明和使用说明至少 10 年
  • 确保存储和运输条件不影响合规性

Distributor(Article 24)是在欧盟市场上提供 AI 系统的实体(不包括进口环节)。Distributor 的义务与 Importer 类似,但侧重于上市前的验证:确认 CE 标记、符合性声明、Provider 和 Importer 的信息标注完整。如果 Distributor 有理由相信 AI 系统不符合 AI Act,不得将其投放市场。

Article 25:角色转换的陷阱

Article 25 是整部 AI Act 中对 SaMD 供应链影响最大的条款之一。它规定,在以下条件下,Distributor、Importer、Deployer 或其他第三方会被重新认定为 Provider

  • 在已有的高风险 AI 系统上贴上自己的名称或商标
  • 对高风险 AI 系统进行了实质性修改(使其仍属于高风险,但改变了基本特性)
  • 修改了 AI 系统的预期用途

对中国 SaMD 制造商来说,这个条款的风险场景是:如果你把 AI 模块以 SDK 或 API 的形式提供给欧盟合作伙伴,合作伙伴将其集成到自己的产品中并以自己的品牌销售,那么合作伙伴就成了 AI Act 下的 Provider——但前提是你们之间的合同没有明确约定责任分配。Article 25(1) 明确提到"without prejudice to contractual arrangements stipulating that the obligations are otherwise allocated"。

这正是合同条款设计的切入点。

合同条款设计:把角色和责任写死

AI Act 下的 SaMD 供应链合同需要覆盖以下几个关键模块:

1. 角色定义与责任分配条款

合同的第一部分必须明确定义各方在 AI Act 下的角色。模板化的表述可以是:

"Provider 方确认其为 Regulation (EU) 2024/1689 Article 16 意义下的 Provider,承担 Article 16 项下的全部义务。Deployer 方确认其为 Article 26 意义下的 Deployer,承担 Article 26 项下的全部义务。"

如果涉及 Importer 和 Distributor,需要分别列出。每个角色的具体义务引用 AI Act 的条款编号,避免模糊表述。

2. 技术文档访问条款

AI Act Article 18 要求 Provider 保留完整的技术文档,并在市场监管机构要求时提供。如果 AI SaMD 涉及第三方组件(如基础模型、云服务),合同中需要约定:

  • 第三方向 Provider 提供充分的文档以支持合规性评估(Article 25(4) 要求的"written agreement")
  • 文档更新的通知机制
  • 文档保密性和知识产权保护条款

3. 使用说明(Instructions for Use)条款

Provider 提供的使用说明是 Deployer 履行 Article 26 义务的依据。合同中需要约定:

  • Provider 负责编写和维护使用说明,确保其满足 AI Act Article 13 的透明性要求
  • 使用说明应包含 AI 系统的能力和局限、预期用途、人工监督要求、性能指标
  • 使用说明的重大更新应及时通知 Deployer

4. 日志和数据治理条款

这是合同中最容易产生争议的部分。AI Act 要求:

  • Provider 确保系统具备自动生成日志的能力(Article 19)
  • Deployer 保留日志至少 6 个月(Article 26(7))
  • Provider 的上市后监测需要性能数据(可能来自 Deployer 的运行数据)

合同中需要明确:

  • 日志的所有权和访问权归属
  • Deployer 向 Provider 提供运行性能数据的机制(用于上市后监测)
  • 数据传输的 GDPR 合规(特别是涉及患者数据时)
  • 日志格式和内容的标准化约定

5. 事件报告和风险通知条款

AI Act 建立了一个双向的事件报告框架:

  • Deployer 发现风险或严重事件后必须通知 Provider(Article 26(5))
  • Provider 收到事件报告后必须采取纠正措施,必要时通知监管机构(Article 20)

合同中需要约定:

  • Deployer 向 Provider 报告的时间框架(严重事件"立即"通知,一般风险"无不合理延迟")
  • 报告的信息内容和格式
  • Provider 的响应和纠正措施通知机制
  • 联合调查的配合义务

6. 模型更新和版本管理条款

AI SaMD 的特殊性在于模型会持续迭代。合同中需要区分:

  • Provider 主导的模型更新(如算法优化、训练数据扩充):由 Provider 按照 PCCP 或变更管理流程执行
  • Deployer 触发的配置变更(如本地参数调整):由 Deployer 在使用说明允许的范围内执行
  • 第三方基础模型提供者的模型版本更新:需要在 Article 25(4) 的书面协议中约定通知和重新验证的流程

7. 审计权条款

Provider 需要确保能够对 Deployer 的合规状态进行评估,尤其是在事件调查和监管检查的场景下。合同中建议加入:

  • Provider 有权在合理通知后对 Deployer 的 AI 系统使用情况进行审计
  • 审计的范围、频率和方式
  • Deployer 配合监管机构检查时的通知义务

中国 SaMD 制造商的合规路径

对于已经获得或正在申请 MDR CE 标记的中国 AI SaMD 企业,AI Act 的合规可以嵌入到现有的 MDR 合规流程中:

与 MDR 审核合并

Notified Body 在执行 MDR 审核时会同时评估 AI Act 的合规性。一份合规性评估覆盖两个法规框架。建议在技术文档中增加一个专门的章节(或 Annex),按 AI Act Annex IV 的结构组织 AI 相关信息。

QMS 扩展

在现有 ISO 13485 QMS 的基础上,扩展以下模块:

  • 数据治理 SOP(数据采集、标注、清洗、偏差评估的流程)
  • AI 模型开发 SOP(训练、验证、测试的分离和记录)
  • 模型漂移监测 SOP(性能指标跟踪和退化预警)
  • AI 特定的风险管理(在 ISO 14971 框架内增加 AI 相关的危害分析)

合同模板准备

针对不同的合作模式准备不同的合同模板:

  • 直营模式(中国制造商 → 欧盟 Importer → 医院):Provider + Importer + Deployer 三方责任
  • OEM/白标模式(中国制造商 → 欧盟品牌方 → 医院):特别注意 Article 25 的角色转换风险
  • SDK/API 模式(中国 AI 算法 → 欧盟医疗器械集成商):需要 Article 25(4) 的书面协议

时间线与紧迫性

日期事件对 SaMD 企业的影响
2024 年 8 月 1 日AI Act 生效法规正式成为法律
2025 年 2 月 2 日禁止的 AI 实践开始适用对 SaMD 影响有限
2025 年 8 月 2 日GPAI 模型义务适用如果 SaMD 构建于基础模型之上,相关义务开始
2026 年 8 月 2 日Annex III 高风险 AI 义务适用适用于非医疗设备类高风险 AI 系统(如 Annex III 清单中的 AI 应用);医疗设备 AI 系统不在此列
2027 年 8 月 2 日Article 6(1) 适用——AI SaMD 的硬截止日新投放市场的 AI SaMD 必须全面合规;此前已 CE 标记的 AI SaMD 仅在发生重大设计变更时触发合规义务

对于计划将 AI SaMD 推向欧盟市场的中国企业,2027 年 8 月 2 日是不可逾越的截止日期。Notified Body 的容量已经在吃紧——提前预约审核是当务之急。

参考资源

AI 助手

你好!我看到你正在阅读「EU AI Act 下 SaMD 的 Provider 与 Deployer 责任切割:从合同条款到合规证据链」。有任何关于这篇文章的问题,都可以问我!

由 Gemini 驱动 · 回答仅供参考