随着人工智能在医疗保健领域的进步，推荐系统——分析患者数据并提出个性化治疗计划、诊断或药物建议的系统——将在临床决策中发挥越来越重要的影响力。
尽管这种转变未来可能使患者受益，但这些系统也引发了关于责任的复杂问题——特别是当患者因有缺陷的人工智能系统而受到伤害时，责任归属问题。
责任应该归于临床医生？人工智能制造商？系统供应商？还是所有相关方？
当算法出错时
考虑以下假设但合理的案例：
一位69岁女性长期服用华法林治疗心房颤动；她的全科医生定期监测她的情况并提供用药建议。患者报告最近曾短暂出现腹泻和呕吐症状，但随后已缓解。最近的血液检测结果已输入辅助华法林剂量滴定的人工智能系统，但该系统不适当地建议增加华法林剂量。全科医生遵循了这一建议并增加了剂量。
一周后，该患者因需要手术和重症监护病房住院的胃肠道出血而入院。她被发现国际标准化比率显著高于推荐范围。随后，患者对全科医生提出索赔，声称增加的华法林剂量不当并导致了出血和住院。
在这种情况下，人工智能生成的建议可能存在安全隐患且不恰当。虽然全科医生仍保留处方的临床责任，但人工智能开发者或制造商是否也应该因有缺陷的用药建议而分担责任？
未能跟上时代的法律框架
目前，这种情况不太可能发生。根据现有的产品责任框架，人工智能系统并未被明确定义为"产品"——这意味着人工智能工具的开发者、制造商和供应商可能会免于通常适用于有缺陷产品造成伤害时的责任规则。
这一漏洞并非有意设计——《1987年消费者保护法》已有数十年历史，当初制定时根本没有考虑人工智能，这意味着人工智能系统可能不在其适用范围内。然而，在当前的框架下，如果发生伤害，患者很难对人工智能工具的开发者、制造商和供应商提出产品责任索赔。
因此，默认做法可能是通过临床疏忽索赔来追究人工智能终端用户的责任——具体而言是英国国家医疗服务体系(NHS)，最终由纳税人买单，以及那些为自己投保以应对索赔的私人执业临床医生。
在医疗保护协会(MPS)，我们认为，如果患者因有缺陷的人工智能系统而受到伤害，临床医生面临承担所有法律责任的风险是不公平的。在我们的新报告《填补人工智能责任缺口》中，我们呼吁英国政府通过立法将人工智能系统定义为适用严格责任的"产品"来解决这一问题。
欧盟已先行一步——英国也应如此
法律一直难以跟上技术变革的步伐。但对于人工智能而言，变革的速度如此之快，这一差距不再像一步之遥，而更像是一个日益扩大的鸿沟。人工智能无法用过去的工具来治理。
政府已明确表示希望人工智能在医疗保健未来发展中发挥核心作用，并通过在NHS范围内进行大量投资来支持这一雄心。但这一雄心尚未得到责任分配法律框架的相应演变。
在为英国制定潜在适当法律框架方面，政府并非没有参考。新的《2024/2853号欧盟产品责任指令》对欧洲责任框架进行了现代化改造，以考虑新兴技术，并将于2026年12月在欧盟范围内生效。
在该指令中，独立的人工智能系统和嵌入设备中的人工智能组件被明确纳入"产品"定义。这确保了人工智能系统适用与实物商品类似的责任制度，并对设计、更新和分发人工智能系统的各方施加持续义务。
对于欧盟成员国而言，该指令填补了此前使人工智能处于传统产品责任制度之外的缺口。虽然英国的任何新产品责任框架都需要根据英国情况量身定制，但政府可以借鉴这一指令。
采取行动的潜在好处显而易见：当出现问题时结果更加公平，当伤害源于有缺陷的人工智能时，对NHS和临床医生提供更好的保护，以及引入更安全的人工智能工具——因为共同责任为开发者创造了更强的激励，使其优先考虑更安全的设计和持续测试，而不是将风险外部化给用户或下游组织。
审查正在进行——但速度至关重要
英国对人工智能责任缺口的认识以及解决这一问题的必要性正在缓慢增长。例如，药品和医疗产品监管局通过国家委员会正在对医疗保健中的人工智能监管进行审查，其中包括寻求关于如何分配人工智能工具使用时责任的意见。法律委员会也在对产品责任制度及其对新兴技术的应用进行审查。
我们将充分参与这些审查，但希望它们能够快速推进。如果政府认真对待英国成为人工智能世界领导者的愿望，就必须迅速应对这一问题。
实用资源
在MPS，我们的目标是支持医疗保健专业人员拥抱人工智能，同时帮助他们理解和应对相关的医事法律风险。去年，我们推出了"人工智能安全实践框架"，旨在帮助医疗保健专业人员安全、负责任地将人工智能整合到实践中。该框架由两部分组成：INFORMED和RECORDS。
INFORMED指导人工智能使用中的道德决策，而RECORDS则记录人工智能辅助决策的责任和临床依据。该框架围绕这些首字母缩写构建，便于使用。
本文是Medscape UK与MPS之间编辑合作的一部分，旨在提供医事法律内容，帮助医疗保健专业人员应对他们在临床实践中面临的诸多挑战。
Sarah Townley博士，医学学士、外科学士(MBChB)，是MPS的副医疗主任，也是MPS基金会的董事会成员。在2009年加入MPS之前，Townley在利兹大学学习医学，之后担任全科医生。在MPS期间，Townley担任过多种职务，包括医事法律顾问和核保政策负责人。Townley还获得了法医学文凭、法医和法律医学学院会员资格以及CII证书。她已披露无相关财务关系。
MPS会员有权请求获取关于临床疏忽索赔、投诉、英国医学总会调查、纪律处分、死因裁判庭和诸如重大过失杀人等刑事指控的专业建议和支持。
【全文结束】