随着人工智能（AI）在医疗保健中的应用日益广泛，确保其安全实施和使用对于保护患者和改善结果至关重要。Dean Sittig博士和Hardeep Singh医学博士、公共卫生硕士在《美国医学会杂志》上发布了指导框架，为医疗机构提供了一套监控和管理AI系统的方案。这些建议强调了治理、临床医生培训、患者透明度以及评估和缓解风险的过程。
关键要点：
- 强大的治理至关重要：新指南建议医疗机构应建立由多学科专家组成的委员会，监督AI系统的部署，确保遵守安全协议，并监测系统性能。
- 透明度建立信任：临床医生应接受关于AI使用和风险的正式培训，同时患者应被告知AI在其护理决策中的作用，以增强对技术的信任。
- 主动风险管理：医疗机构必须在真实环境中严格测试AI系统，维护AI工具的详细清单，并制定在系统出现故障时安全停用的程序。
随着人工智能（AI）在医疗保健中的应用越来越普遍，医疗机构和临床医生必须采取措施确保其在实际临床环境中的安全实施和使用。Sittig博士表示：“我们经常听到需要安全构建AI，但很少讨论如何在医疗保健环境中安全使用它。AI有潜力彻底改变医疗服务，但如果没有适当的保障措施，AI可能会生成错误或误导性的输出，从而可能对患者造成伤害。”
Sittig和Singh基于专家意见、文献回顾以及健康IT使用和安全评估的经验，开发了一种实用的方法，帮助医疗机构和临床医生监控和管理AI系统。Singh博士表示：“医疗机构需要在当地实施强大的治理系统和测试流程，以确保AI的安全使用，最终通过AI提高医疗保健的安全性和患者结果。所有医疗机构都应参考这些建议，并开始积极准备应对AI。”
医疗机构推荐的行动：
- 查阅高质量、同行评审期刊中发布的指南，并进行严格的现实世界测试，以确认AI的安全性和有效性。
- 建立由多学科专家组成的专门委员会，监督AI系统的部署，确保遵守安全协议。委员会成员应定期审查新的AI应用程序请求，考虑其安全性和有效性后再实施，并制定监测其性能的流程。
- 对临床医生进行AI使用和风险的正式培训，同时在AI参与患者护理决策时向患者透明化。这种透明度对于建立对AI在医疗保健中角色的信任至关重要。
- 维护详细的AI系统清单，并定期评估以识别和缓解任何风险。
- 制定在系统出现故障时关闭AI系统的程序，确保顺利过渡回手动流程。
“将AI引入临床环境应该是医疗保健提供者、AI开发者和电子健康记录供应商之间的共同责任，以保护患者。”Sittig博士表示，“通过共同努力，我们可以建立信任，促进AI在医疗保健中的安全采用。”
(全文结束)
