本故事最初发表于Healthcare Dive。如需获取每日新闻和深度见解,请订阅我们免费的Healthcare Dive每日通讯。
简报要点:
- 健康人工智能联盟本周发布了一系列治理资源,旨在帮助医疗系统安全地推出人工智能工具。
- 这些指南由包含150多名临床医生和健康AI领导者的社区研讨会和工作小组开发,提供了AI实施的示例和指导,包括制定AI政策、管理第三方开发者和风险评估等资源。
- CHAI表示,目标是提供一个标准化但灵活的框架,使各类医疗系统都能部署AI工具,无论其规模或可用资源如何。
健康人工智能联盟(CHAI)成立于2021年,是一个由3000多个组织组成的网络——包括医疗系统、科技初创企业和患者倡导团体——旨在制定医疗保健中负责任使用AI的指南。
该联盟已创建"模型卡"(model card)模板,用于记录AI模型的预期用途和可能风险,以及供医疗公司访问的注册表。CHAI还发布了与联合委员会(Joint Commission)合作开发的负责任AI指南,以及使用AI帮助确定安全网保险计划医疗补助计划(Medicaid)资格的最佳实践。
CHAI在周三发布的新闻稿中表示,最新指南重点关注在医疗系统中部署该技术的八个"关键要素"。
这些要素包括建立AI监督的组织结构指南——如创建治理委员会和评估AI工具的框架——以及确保提供商拥有适当资源的指导,例如强大的网络安全基础设施和用于监控模型性能的工具。
"我们希望确保这些指南反映将使用它们的组织的实际情况,"CHAI负责任AI总监梅拉奇·加恩(Merage Ghane)在一份声明中表示。"有哪些挑战、经验教训以及使负责任AI可操作所需的资源,只是指导我们工作的几个问题。"
加恩通过电子邮件告诉Healthcare Dive,该联盟将继续收集对指南的反馈,并随着AI治理的发展适应新变化。她表示,CHAI还计划将指南扩展到医疗保健行业的其他参与者,如保险公司。
根据Doximity今年春天发布的医生调查,医疗保健中的AI使用正在快速加速,包括用于协助医学研究、记录患者护理或处理数据分析的工具。然而,治理对许多医生来说仍然是一个挑战:只有8%的医生表示,他们所在机构的AI决策过程是清晰的,他们理解相关政策和指南。
联邦监管也有限。特朗普政府在推动技术采用方面,基本上采取了放松监管的方法对待AI。政府官员去年也批评了CHAI,认为该联盟会通过监管扼杀健康技术初创企业,最终恶化患者的治疗结果。
推荐阅读:
- CHAI与医疗中心团体合作促进安全网AI应用
【全文结束】

