JMIR Publications宣布在其新闻与观点栏目发布一篇及时的新文章，审视人工智能时代患者解释权的法律与伦理复杂性。文章《医疗AI中的理解权》探讨了一个关键矛盾：尽管欧盟AI法案为透明度提供了法律依据，但有意义解释的技术和临床现实在很大程度上仍未明确。该报告由JMIR通讯记者Anshu Ankolekar撰写，强调随着高风险AI系统在医学影像和诊断中成为标准，患者越来越有权质问：“为什么计算机得出这个结论？”然而，先进算法的不透明性常常使即使最有经验的临床医生也无法给出既技术上准确又对患者实际有用的答案。分析指出了几个重大障碍，阻碍现行法律框架（如欧盟AI法案和通用数据保护条例）转化为更好的患者护理：可解释性权衡——最准确的AI模型通常通过数百万个参数运行，人类无法完全追溯。强制使用更简单、更可解释的模型可能牺牲诊断准确性，从而与患者安全直接冲突。自动化偏见——研究表明，错误的AI建议可能将临床医生引向错误诊断，无论其经验水平如何。已经依赖算法的临床医生提供的解释可能无法反映独立的临床评估。素养障碍——22%至58%的欧盟公民报告难以理解健康信息。提供算法逻辑的技术细节往往导致认知过载，而非知情同意。文章主张范式转变：从敷衍合规的方式转向关注决策相关清晰度。专家建议，真正对患者有用的解释必须说明系统建议什么、其置信度如何，以及针对特定人群的已知性能差距。为弥合这一差距，报告呼吁：合作设计伙伴关系——开发者必须与真实患者和倡导者一起测试解释系统，以确保满足实际需求。机构支持——医疗系统需要为AI讨论分配专门时间，并培训员工处理这些复杂对话。理解标准——政策制定者应优先考虑数字健康素养，并制定衡量患者是否能够实际使用所提供信息做出选择的标准。报告总结道：“欧盟AI法案提供了法律基础，但提供患者能真正使用的解释的能力受到法律单独无法控制的力量的影响。患者现在需要的是他们能用的答案。”来源：JMIR Publications
【全文结束】