随着人工智能（AI）在医疗保健领域的应用日益增多，高管们正迅速采取行动，以确保其增长受到控制，但他们是否有效地处理了治理问题？
许多医疗系统和医院正在多个用例中使用AI工具。许多机构正在成立治理委员会来管理AI的采用、增长和监控，但尚无统一的做法来确定谁应加入该委员会。随着越来越多的组织关注治理问题，医疗保健领导者需要了解如何管理AI项目中使用的数据，并建立持续的监控策略。
随着医疗保健组织迅速拥抱AI，领导层正在努力理解如何确保治理不被忽视。但在医院或医疗系统中，治理究竟意味着什么？谁来决定AI的使用方式和地点？
在最近于波士顿举行的HIMSS医疗保健AI论坛上，合规性和责任问题成为医疗系统高管关注的焦点。大西洋健康系统的首席信息和数字官Sunil Dadlani表示，AI监管必须谨慎处理，以免阻碍创新。挑战在于决定在何处让创新退一步，以便解决合规性和责任问题。
克利夫兰诊所的首席分析官Albert Marinez表示，AI为医疗保健带来了“可能的艺术”。“我们知道，有些问题可以通过生成式AI解决，而这些问题以前是无法解决的，”他在HIMSS活动上说。
大西洋健康系统的基于价值的医生项目副总裁兼ACO首席医疗官Jim Barr博士在给HealthLeaders的电子邮件中表示：“医疗保健行业应积极建立和执行AI治理和指南。政府监督将会发生，但医疗保健行业应展示我们全面理解问题并自我监管的能力。”
“使用AI工具的理由不能仅仅是为了宣称我们在前沿技术上有所作为，”他补充道。“对于ACO来说，挑战在于设计和管理成功的实施，同时不断衡量影响和投资回报率。您需要考虑临床医生、实践和患者的现有痛点，他们改变的意愿，部署透明的质量保证/验证过程以建立信任，以及明确的客户价值命题。”
那么，治理在医疗系统的战略中占据什么位置？宾夕法尼亚大学医学和卫生政策助理教授、佩雷尔曼医学院医学伦理和卫生政策助理教授、人类算法合作实验室主任Ravi Parikh博士表示，联邦政府为建立治理框架所做的努力产生了模糊的指导方针，这些指导方针是一个好的起点，但还不够。“它们是一些关于监测偏见和性能漂移的一般性指导方针，”他说，“但这些指导方针的实际操作性差异很大。”
许多医疗保健组织的第一步是成立一个治理委员会，负责管理医疗系统如何谈判供应商合同，以及AI的开发、测试、使用——最重要的是监控。在HIMSS峰会上，奥兰多健康系统的首席数据、分析和AI官Shahidul Mannan表示，许多医疗系统正在整个企业中使用小型AI项目，但领导层必须创建一个引擎，将所有项目整合到同一轨道上。关键在于决定谁坐在引擎上。
Parikh表示，目前的委员会“非常临时”，包括来自临床护理、IT、法律和财务等领域的高管。很少有委员会包括患者的声音，这可能是一个关键的疏忽，因为AI产品涌入消费者市场，患者要求AI功能来规划和管理他们的医疗保健。
内布拉斯加大学医学中心儿科外科数字创新主任Patrick Thomas在HIMSS活动上质疑医疗保健领导层是否准备好为其患者治理AI。他表示，患者和提供者正在进行自己的研究，迫使决策者努力跟上。
除了治理委员会的组成外，该委员会的关键职能之一是理解数据和数据分析，尤其是在外包AI技术时。在与供应商打交道时，医疗系统需要了解使用了哪些数据集以及这些数据如何影响结果。例如，依赖于明显白人群体数据的公司可能无法帮助患者群体种族多样化的医院或医疗系统。
当出现错误，如幻觉时，可能很难让供应商进行修正。“实际上很难通过修改算法来应对这些幻觉，”Parikh说。“您可能能够微调并说‘我们希望避免这种输出’，有一些基于奖励的机制可以做到这一点，但这通常不在医疗系统的控制范围内。通常是开发人员根据医疗系统提供的反馈做出一些我们并不完全了解的后台调整。”
治理委员会还必须是永久性的，这将耗费时间和金钱，而小组织可能没有这些资源。目前正在考虑的许多标准都是针对基本的AI功能，而不是生成式或预测性AI，后者尚未成熟到可以在医疗保健中使用。但这些工具很快就会出现，治理规则也必须随之演变。
Parikh并不相信医疗系统或联邦政府能够为不断发展的AI景观起草标准。相反，他预计像医疗AI联盟（CHAI）、可信和负责任的AI网络（TRAIN）或数字医学协会（DiME）这样的组织将制定标准，并随着技术的发展进行调整。他还表示，联邦政府最终可能会要求医疗保健组织获得认证，以使用不同类型的人工智能，这可能是质量改进计划的一部分，甚至是支付政策的一部分。
“我们可以拥有这些认证系统，向开发人员发出信号，哪些机构既适合验证又适合部署[AI]技术，哪些机构可能不适合大型语言模型生成……但可能更适合其他类型的预测AI解决方案，”他说。“我怀疑人们会意识到某些医疗系统在治理能力和数据可用性方面更有优势，这对于患者来说是件好事，因为我们不想在那些可能出现错误的地方推出这些工具。”
(全文结束)
