近20年来，全球医疗安全组织ECRI每年都会发布其“十大医疗技术危害”清单。今年的版本中，一种快速变化且具有巨大医疗潜力的技术——人工智能（AI）——因其潜在的巨大风险而位居榜首。
为何重要
“虽然AI有潜力提高效率和结果，但如果未得到适当评估和管理，则会对患者构成重大风险，”ECRI在宣布2025年报告时表示。“AI已从早期在医学影像中的应用扩展到几乎涵盖医疗保健的所有领域，包括诊断、文档处理和预约安排。即使涉及非医疗设备监管的辅助系统，AI应用程序也可能对患者护理产生深远影响，”ECRI指出。
特别令人担忧的是AI的“幻觉”，即由校准不当的算法产生的误导性反馈。研究人员指出，当这些模型基于有偏见的数据进行训练时，其输出在不同患者群体中的表现可能会有很大差异，从而对代表性不足或服务不足的社区的健康公平性和患者安全构成风险。
ECRI的2025年十大医疗技术危害：
- AI驱动的医疗技术风险
- 家庭护理患者的未满足技术支持需求
- 易受攻击的技术供应商和网络安全威胁
- 不合格或欺诈性的医疗设备和用品
- 补充氧气引发的火灾风险
- 麻醉机默认报警限值过低的风险
- 药物订单临时暂停处理不当
- 输液管管理不当
- 有害的医用粘合产品
- 输液系统事件调查不完整
ECRI将医疗技术危害定义为任何“在某些情况下可能使患者或用户处于风险中的设备或系统故障、设计特点或使用方法”。该组织采取所谓的“全面系统安全方法”，旨在帮助医疗保健专业人员、管理人员、设备制造商、政策制定者、研究人员和患者减少在护理过程中发生的可预防伤害。
其团队关注各种方面，如人为因素、工程、设备安全、药物安全、感染控制等，这些都与医疗保健环境中技术部署的影响和来源有关，并努力推荐系统范围的安全解决方案。
ECRI指出，每年列出的主题和技术“不一定是报告最频繁的问题或与最严重后果相关的问题”，尽管这些因素是核心考虑因素。相反，年度报告反映了其对“哪些风险现在应引起关注，以帮助护理提供者、设备制造商和其他人优先考虑他们的患者安全工作”的判断。
完整的2025年十大医疗技术危害报告（仅对ECRI会员开放）提供了详细步骤，以帮助卫生系统、供应商和其他IT领导者减少对患者安全的风险。点击此处查看执行摘要。
更大趋势
ECRI的2024年清单也涉及一些类似主题，重点关注远程患者监测和其他家庭医疗设备（第1位）和AI治理不足（第5位）的风险。过去几年还关注了输液泵的危险和软件管理差距，当然还有诸如勒索软件之类的网络安全威胁。
官方声明
“人工智能的能力前景不应让我们忽视其风险或其对患者和提供者的伤害能力，”ECRI总裁兼首席执行官Marcus Schabacker博士在一份声明中表示。“在AI创新与隐私和安全之间取得平衡将是现代医学中最困难、也是最具决定性的任务之一。”他补充说：“AI的质量取决于其所使用的数据及其使用规则。医疗保健领域的所有利益相关者必须像对待任何新技术一样，批判性地思考AI的整合。”
(全文结束)
