文章｜Chambers and Partners
人工智能正以超出预期的速度渗透医疗领域。它既能加速诊断流程、提升医生决策质量，又能在专科医师匮乏地区实现先进治疗。然而这同时引发了法律体系必须解决的问题：算法造成的损害谁来负责？如何建立其决策监督机制？如何安全处理敏感患者数据？欧洲人工智能监管已带来具体规则，医疗机构必须适应这些要求。本文将聚焦医疗人工智能应用中的核心法律问题——从监管合规到个人数据保护，再到损害赔偿责任。
当前及未来短期内，人工智能已在或将在多个医疗领域得到应用。最常见的案例包括：通过医学影像或实验室结果分析辅助诊断、特定患者并发症风险评估、急诊科或院前急救自动化分诊、医疗文件处理评估加速等。人工智能可为医生节省时间，提高诊断准确性和一致性，同时使偏远地区患者也能获得专科治疗。未来还将发展基于人工智能的个性化医疗，届时治疗方案将根据患者基因特征和其他个体特征进行定制。
医疗人工智能的监管体系
医疗人工智能具有巨大潜力，但也对人类健康安全产生根本性影响。因此欧盟对其实施严格监管。《人工智能条例》根据风险等级对系统进行分类。根据相关欧盟法规，当医疗人工智能系统同时符合医疗器械或体外诊断器械定义时，将被划入高风险系统类别。这种分类给AI系统提供商（制造商）带来一系列义务——从强制性合规评估、训练数据质量要求、系统鲁棒性和安全性规范，到透明度要求和详细技术文档准备。这些义务还补充了医疗器械法规的要求——需通过研究证明临床安全性和有效性。
实施这些解决方案的医疗机构通常作为"部署者"（专业用户）运作。医疗机构有义务维护操作记录、确保员工培训到位、开展系统定期监测、报告缺陷和不良事件，并始终确保系统的人工监管。部分义务——如监督责任——可通过合同转嫁给AI系统提供商。专业领域也在讨论是否应在AI系统处于实验阶段（即研发测试期）时，获得患者的知情同意。
关于非医疗器械解决方案的分类问题值得关注。例如，在危机情境下使用的患者分诊系统将被归为高风险系统。但危机情境的准确定义尚不明确——可能包含大规模伤亡事件，但常规医院急诊室是否属于危机情境仍存疑。相反，医疗文档自动化处理通常不属高风险类别。但若在此基础上运营面向患者提供建议的聊天机器人，则属于有限风险系统，对应提供商和医疗机构的不同义务。
人工智能与个人数据保护
另一个重要领域是个人数据及医疗保密数据的保护。根据《通用数据保护条例》（GDPR），医疗数据属于特殊类别的个人数据——即健康数据。虽然提供医疗服务时可合法处理这些数据，但若AI提供商为系统训练改进而使用数据，该例外情形不能自动适用。此时医疗机构应谨慎处理与供应商的合同条款，理想情况下禁止数据转移，或仅允许匿名化共享。决策时必须考虑系统的具体特性和使用目的。从功能性角度看，系统可获取的数据质量越高，其结果的准确性和可靠性越强。
损害赔偿责任
在医疗AI应用领域，损害赔偿责任问题至关重要。AI系统显著影响诊断、治疗决策和医疗组织。若无法明确AI系统造成损害的责任归属，患者将陷入权利主张的不确定状态。AI系统具有自主学习和决策能力，甚至其开发者往往无法解释为何系统产生特定输出——即为何做出特定决策。
我们认为，在提供医疗服务时应适用《民法典》第2936条确立的责任原则。该条款规定，履行义务过程中使用缺陷物品造成损害的，应予以赔偿，该规定明确适用于医疗、社会服务、兽医等生物服务领域。这种责任属于无过错责任——即使医疗机构自身未导致系统缺陷或错误。问题在于如何认定系统（即AI系统）是否存在缺陷。AI系统或算法本身可能并无缺陷，但其输出结果可能对患者造成伤害。系统可能因错误数据或对无误数据的错误解读而"决策"。因此，医生（至少在可预见未来）仍需对诊断和治疗程序作出最终判断。
若不按此方式界定责任，患者可能陷入无法获得赔偿的困境。但由于医疗机构无法完全掌控AI系统及其输出结果，应通过合同明确与供应商的损害赔偿责任划分。合同应清晰界定各方责任范围——例如，哪些AI系统错误应由供应商对医疗机构负责。这些合同条款对AI系统至关重要，因供应商可能在损害赔偿主张中主张：由于系统的学习功能，自身无法控制系统。
医疗机构应主动核查现有保险覆盖是否包含AI系统相关损害。传统保险产品可能未明确涵盖新技术风险，可能导致与保险公司的纠纷。特殊保险合同或现有保单的扩展条款，可确保AI相关风险与专业责任其他形式得到同等保障。
结论
医疗人工智能在提升患者护理效率和质量方面蕴含巨大机遇，同时也带来新的法律挑战。医疗机构不应畏惧使用AI，但必须重视准备工作。关键在于：与系统供应商建立完善的合同关系、明确定义损害赔偿责任、验证保险覆盖的充分性。唯有通过周密准备，才能确保患者和医疗机构的利益得到保护，避免人工智能在医患关系中制造信任危机。
本文由PRK Partners律师事务所的执业律师JUDr. Eva Fialová和合伙人JUDr. Ing. Michal Matějka共同撰写。该律所专长信息通信技术法律、个人数据保护及新技术法律问题。
【全文结束】
