在拉斯维加斯举行的2024年HLTH会议上，伊利诺伊大学医院和健康科学系统首席健康信息官卡尔·科赫恩多夫（Karl Kochendorfer）回忆起一个案例，当时该系统正在测试一种基于人工智能的工具，该工具可以草拟消息回复。一名患者拼错了药物名称，导致AI给出了患者并未使用的药物的副作用，因为护士忘记双重检查回复。最终，这并不是一个大问题——他们只需给患者打电话或发送另一条消息进行更正即可。但他表示，这种情况本可能导致试点项目夭折。“它几乎毁掉了试点项目……而且发生在第一天。”他说。
尽管如此，医疗保健行业在如何安全地实施人工智能方面仍面临挑战。投资者和卫生系统首先看到了采用自动化行政和后台工作的工具的前景，这些工具可以帮助缓解提供者的倦怠，并对患者护理构成较低的风险。专家们表示，但采用这些技术的压力很大。支持者认为，人工智能可以帮助解决医疗保健行业的重要人力资源挑战：根据咨询公司美世（Mercer）的一份报告，到2028年，全国将面临超过10万名关键医疗保健工作者的短缺，随着总体人口老龄化，需要更多的护理。
虽然人工智能可能会带来变革，但该行业在实施新兴工具时必须谨慎行事。政策制定者和专家对准确性、偏见和安全性提出了担忧。实施人工智能在医疗保健中是复杂的，行业应该从之前部署的一些预测工具中学到教训，Roon健康信息应用的联合创始人兼首席医疗官罗汉·拉马克里斯纳（Rohan Ramakrishna）在HLTH会议的一个小组讨论中表示。“我认为我们学到的一点是，在医疗保健环境中应用人工智能解决方案时必须极其谨慎。”他说。
人工智能如何帮助“供需之间的简单失衡”
凯撒永久医疗集团（Kaiser Permanente）人工智能和新兴技术副总裁丹尼尔·杨（Daniel Yang）在一个小组讨论中表示，人工智能可以帮助解决医疗保健中的最大问题之一：越来越多的老年患者患有更复杂、慢性疾病，而能够帮助他们的提供者却越来越少。随着老年人需要更多护理，千禧一代作为美国最大的一代人，希望获得更加即时的消费体验。但他补充说，这在供应受限的情况下将难以实现。培训新医生需要数年时间，而医生数量减少意味着更多的倦怠、护理延迟和更高的成本。“这甚至不是关于人工智能的问题，而是我认为医疗保健普遍存在的问题。”杨说，“我们看到的是供需之间的简单失衡。”
人工智能可以通过增强临床医生的工作流程来提供更好的护理。杨表示，研究人员开发的一种算法每年可以挽救500条生命，通过标记那些有临床恶化风险的患者，即病情恶化的患者。
“对我来说，这节省了时间。但最终，这对患者更好，因为他们觉得自己被听到了。这对我来说确实是一次变革性的体验。”萨凡纳血管研究所的血管外科医生克里斯托弗·威克森（Christopher Wixon）说。
投资者和卫生系统关注行政负担
鉴于提供者沉重的行政工作量和对模型中涉及临床决策时可能出现错误或偏见的担忧，解决行政问题的产品是人工智能采用的首要任务。一些投资者也对自动化这些运营任务更感兴趣。“我们将继续关注那些可以减轻劳动力负担的不那么吸引人的后台自动化，真正与人工智能无关的临床任务。”.406 Ventures的合伙人帕亚尔·阿格拉瓦尔·迪瓦卡兰（Payal Agrawal Divakaran）说。
根据硅谷银行本月早些时候发布的一份报告，今年行政人工智能公司吸引了更多风险资本。截至2024年，行政人工智能公司筹集了24亿美元，而临床人工智能公司筹集了18亿美元，这主要是因为监管和机构障碍较低，特别是对于决策支持工具。“我们看到所有这些行动都集中在行政任务上，但也集中在预授权和其他低价值任务上。”SVB生命科学和医疗保健银行业务信贷解决方案主管梅根·谢弗尔（Megan Scheffel）在接受采访时说。“你可以让办公室工作人员转移到更高价值的项目上。”
谷歌研究的杰出科学家兼健康人工智能负责人格雷格·科拉多（Greg Corrado）在一个小组讨论中表示，现在有很多机会使用大型语言模型作为起草工具，包括笔记或护士交接文件。由于提供者在最终确定前需要审查输出，因此内置了监督机制。他补充说，通过询问用户的体验或检查他们需要进行多少修订，也可以更容易地评估质量。但当评估运营或行政工具时，仍然需要有条不紊地进行，使用当地患者的健康数据进行测试，克利夫兰诊所风险投资公司的合伙人托德·施瓦茨金格（Todd Schwarzinger）在接受采访时说。克利夫兰诊所的治理结构还关注用于工具的数据、这些信息的保护方式以及产品是否安全并积极影响患者护理的问题。行政或运营产品，如环境记录员或收入周期管理工具，是一个更安全的起点。“你不会冒做出临床决策的风险，对吧？”他说。“这种信任水平还没有建立起来。我认为这需要时间。”
准备部署人工智能
尽管人工智能在缓解提供者倦怠方面显示出潜力，但卫生系统在让提供者参与、设置试点、建立治理政策和推出产品方面仍面临挑战。在HLTH会议上分享的一个例子中，圣路易斯的BJC医疗保健提供商决定使用供应商数据来识别那些花很多天时间签署文件或撰写长笔记的临床医生，以便进行环境记录试点，BJC医疗保健门诊部助理首席临床信息官、BJC医疗集团首席医疗信息官米歇尔·托马斯（Michele Thomas）说。“我们认为我们有20个人中只有一个人回应。所以，我们立刻意识到最需要这项技术的人并不感兴趣。”她在小组讨论中说。他们决定改变方向，邀请任何感兴趣的人加入试点，从而迅速得到了回应，托马斯说。
然而，选择哪些提供者参与测试也很重要，因为一些医生不了解参与试点的要求，例如需要花费时间发送反馈或管理对新产品不满的情绪。卫生系统在采用人工智能工具时还应考虑他们希望实现的目标。许多医生并没有看到太多的时间节省，因为他们花了大量时间编辑笔记——而不是纠正笔记——以使笔记符合他们的写作风格，托马斯说。相比之下，高级执业提供者在审查后更快地签署了环境笔记。“你真的需要决定你的投资回报率是什么。你是希望节省财务成本？还是希望节省时间？你是在寻找硬数据来证明这项技术的合理性？还是更软性一些？你是在寻找患者满意度吗？”她说。
网络安全本身已经是对医疗保健部门的一大挑战，也是人工智能部署的关键。组织应该思考他们在使用受保护的健康信息时会问的相同问题，美国卫生与公共服务部民权办公室主任梅兰妮·丰特斯·雷纳（Melanie Fontes Rainer）在接受采访时说。如果他们与开发者建立合作关系，是否有业务关联协议？他们是否考虑了存储在云中的信息的数据删除政策？他们是否考虑了谁需要访问数据？
“我认为这里肯定需要平衡，但这要求我们所有人负责任地思考我们如何使用这些信息，以及这些信息如何可能损害我们的系统、我们的患者，以及我们如何采取主动措施来保护它们。”她说。
(全文结束)
