代理式AI（Agentic AI）正涌入医疗系统，而人们尚未就如何控制它达成共识——无论是部署窄领域、任务特定的代理还是更广泛的自主用例，以及如何为两者构建有意义的监督机制。
医疗IT领导者告诉《Becker’s》，他们正在试验早期框架，并权衡在赋予代理式AI（它能够自主规划、行动和执行，无需人类发起交互）比现在更多自主权之前，需要做哪些准备工作。
“AI不会独立诊断、开医嘱或治疗——它可以强烈推荐并预建医嘱，但必须由临床医生点击‘接受’，”科罗拉多州奥罗拉市UCHealth的首席医学与创新官Richard Zane医学博士说。“限制来自法规、责任和文化的约束，而非模型本身的能力。”
UCHealth正在将代理式AI应用于行政文档、流程、收入周期和排程，但设置了严格的护栏：完整的审计日志、实时性能仪表盘、严格的权限设置、无法访问医嘱系统，以及一个即时杀毒开关。
“代理可以基本上以‘影子模式’启动，然后只有在被证明准确后才‘赢得’自主权，”Zane博士说。“在临床上，AI可以倾听、总结、建议和提示。人类仍然签署每一份医嘱和记录……目前如此。”
耶鲁纽黑文健康系统（康涅狄格州）有一个AI代理用于回答、分类和关闭IT服务台工单，并正在探索将该技术用于呼叫中心、面向员工的文档档案（如人力资源政策）以及知识库文章生成。该组织还计划推出一个代理工厂，例如Microsoft Copilot Studio。
“所有临床决策和诊断支持工具都要求人在回路中，”耶鲁纽黑文健康系统高级副总裁兼首席数字健康官Lee Schwamm医学博士说。“在运营和行政流程中，我们要求进行广泛的人在回路验证，但如果模型表现符合预期并超过基准阈值，我们将允许它们自主执行，并定期进行审计。”
他表示，围绕自主AI代理的网络安全问题需要解决，例如可能违反基于角色的访问控制。
“改善健康的最大机会将在于面向患者的代理，它们能够真正提供医疗服务，”Schwamm博士说。“但不成熟的责任框架以及因意外行为导致患者伤害的风险，是阻碍这一下一阶段发展的主要障碍。”
已经规模化部署了代理式AI的医疗系统，同样主要在运营和收入周期领域。领导者们仍在为临床方面设定边界。
“一旦你触及任何影响护理决策的事情，医生就要为结果负责，”加州纽波特比奇Hoag健康系统的首席数字与客户创新官Kathy Azeez-Narain说。“我得出的这一界限，不仅来自法规，更源于对患者护理中所需人性的深深尊重，以及真正对患者负责意味着什么。”
这家拥有两家医院网络尚未部署代理式AI，Azeez-Narain女士认为医疗行业尚未准备好接受这项技术。
“我会对那些声称今天已全面部署代理式AI的医疗系统领导者持怀疑态度，因为负责任地部署所需的监督基础设施尚不存在，”她说。“我们专注于打好基础——包括审计追踪、置信阈值、内置于设计中的法律和合规框架——这样，当代理能力成熟、监管清晰度跟上时，我们才能有可信度地行动。”
面向内部、帮助员工完成部分或全部行政任务的代理，是医疗领域代理式AI“最易接受”的起点，洛杉矶儿童医院副总裁兼首席创新与转型官Omkar Kulkarni表示。
“总的来说，能够最快让我们的行业安全采用并利用代理式AI的是协作，”他说。“当医疗系统能够分享最佳实践——并在适当情况下分享性能和准确性数据——我们就能共同为安全、高效和合乎道德的部署创造更有利的条件。”
Kulkarni先生指出，他领导的KidsX是一个由超过25家儿科医疗系统组成的创新联盟，可作为分享这些经验的平台。
“我们采用分阶段自主模式——没有什么是第一天就完全自主的，”纽约市特种外科医院执行副总裁兼首席转型与数字信息官Ashis Barad医学博士说。“我们的患者面板是一个很好的例子。它自主地协调临床数据、会诊需求和保险状态，为医院运营人员提供一个单一视图。数据整合是完全自主的，但由此产生的临床决策则不是。”
辛辛那提的基督医院健康网络正在对代理式AI采取“爬行-行走-跑步”的方法，首席信息与数字转型官Joy Oh说。
她表示，成功的AI部署需要“一个自我维持的审计与治理框架、基于ROI的优先级排序方法论，以及一个经过AI培训、随时可用的员工队伍”——但医疗系统由于资源竞争和优先级冲突，历史上对这些领域投入不足。
“在这些组件到位之前，我会对实施任何代理式AI功能持谨慎态度，尤其是在我们高度监管、以患者为中心的环境中，”Oh女士说。
【全文结束】