拉斯维加斯——医疗保健组织需要关注测试、监控和实施人工智能模型，以确保技术的安全部署并避免中断，专家们在周二HLTH会议的一个小组讨论中表示。
尽管AI可能对面临劳动力短缺和繁重行政工作量的行业带来福音，但模型性能会因设置和患者群体而异，这意味着其实施方式是成功部署的重要因素，小组成员说。亚马逊网络服务的医疗保健执行顾问克里斯汀·西尔弗斯（Christine Silvers）表示，COVID-19大流行突显了在医疗保健中安全有效采用AI的一个挑战。
在大流行之前，开发了一种医疗保健AI模型来预测哪些患者可能会错过他们的预约，西尔弗斯说。该模型解决了医疗系统的一个关键问题——当患者错过预约时，连续护理被中断，医疗系统也会失去收入。通过预测模型，提供者可以提前干预。也许患者需要乘车？或者安排的时间实际上不适合患者。起初，该模型运行得很好——直到大流行颠覆了正常的医疗保健访问，她说。“这就是所谓的模型漂移。随着时间的推移，帮助你的模型工作的环境因素会发生变化，”西尔弗斯说。
为了减轻中断，医疗保健组织需要在本地数据集上测试其模型，并持续监控其性能，微软全球首席医疗官兼医疗保健副总裁大卫·瑞（David Rhew）说。他们还需要关注模型在不同亚群体（如年龄、种族、性别和性取向）中的表现，并保持总体治理策略。“我们遇到的问题并不是组织不同意这些原则。他们不一定有资源能够在大规模上做到这一切，”他说。
为了应对安全、功效和偏见等重大问题，医疗保健组织需要共同努力，决定一个可用于比较的实施策略，瑞说。这样，公司就能更好地了解某个模型是否能在他们的组织中发挥作用，如果他们了解AI在类似公司的部署情况的话。一些团体已经成立，旨在为医疗保健中的负责任AI部署制定标准，包括健康AI联盟。今年春天，微软也成立了一个旨在实现负责任AI指南的运营化的目标小组。
但投资AI工具、谨慎部署并监控其性能将需要资金——这可能会使资源较少或农村医疗系统落后。“我们如何让联邦合格健康中心、关键接入医院能够负责任地参与这场AI革命？”健康AI联盟首席执行官布莱恩·安德森（Brian Anderson）说。“实际上，之前的每一次数字健康创新都加剧了数字鸿沟。”这个问题尚未解决，瑞说。但医疗保健组织可以通过采用枢纽和辐条模型来尝试采用AI，其中枢纽医院拥有支持集团内其他设施的资源。技术公司也可以通过提供测试和监控模型的帮助来提供帮助，他补充道。卫生与公众服务部民权办公室也有兴趣与医疗保健行业合作，组织应该就行业需要进行的对话提出问题，民权办公室主任梅兰妮·丰特斯·雷纳（Melanie Fontes Rainer）说。“这不是一次性的。我们必须手拉手一起跳进去，”她说。“否则，我们将会有支离破碎的使用情况，我们会选择赢家和输家，我们将会扩大某些人群的潜在差异，而这些差异实际上已经存在。”
(全文结束)
