发表在《英国皇家医学会杂志》的一篇新评论警告称，当前基于风险的医疗人工智能(AI)监管方法在保护患者方面存在不足，可能导致过度治疗和治疗不足，以及对患者群体的歧视。
作者发现，虽然人工智能和机器学习系统可以提高临床准确性，但对其固有的不准确性、不透明性以及潜在偏见的担忧仍然存在，而欧盟人工智能法案引入的现行监管措施未能充分解决这些问题。
2025年通过的人工智能法案将医疗AI归类为"高风险"，并对提供商和部署者实施严格管控。但作者认为，这种基于风险的框架忽视了三个关键问题：患者个体偏好、AI实施的系统性和长期影响，以及患者在监管过程中的权利弱化。
"在准确性、偏见或AI在其护理中所扮演的角色方面，患者有不同的价值观。监管必须超越系统层面的安全性，考虑个人权利和参与。"丹麦奥尔堡大学数据与AI伦理学教授、主要作者托马斯·普洛格(Thomas Ploug)表示。
作者呼吁引入与AI生成诊断或治疗规划相关的患者权利，包括以下权利：
- 请求解释的权利；
- 给予或撤回同意的权利；
- 寻求第二意见的权利；以及
- 拒绝基于公开可用数据且未经同意的诊断或筛查的权利。
他们警告称，如果没有医疗保健利益相关者——包括临床医生、监管机构和患者团体——的紧急参与，这些权利可能会在AI在医疗保健领域的快速发展中被忽视。
"AI正在改变医疗保健，但不能以牺牲患者自主权和信任为代价，"普洛格教授说。"现在是时候定义那些将保护和赋能AI驱动的医疗系统中患者的权利了。"
《AI驱动的医疗保健中患者权利的必要性——基于风险的监管是不够的》(DOI: 10.1177/01410768251344707)一文由托马斯·普洛格博士、Rikke Frank Jørgensen、Hanne Marie Motzfeldt、Naomi Ploug和Søren Holm撰写。
来源：英国皇家医学会
【全文结束】