多年来，关于医疗系统中AI的讨论主要集中在技术采用上：购买哪些工具、运行哪些试点项目、自动化哪些工作流程。但随着医疗系统从孤立的AI部署转向企业级代理式平台，限制因素已不再是技术，而是管理它的人。
这是今年春季在芝加哥举行的Becker's第16届年度会议上，医疗系统技术领导者小组讨论中的核心矛盾。从大型农村综合医疗网络到城市学术医学中心再到国家癌症系统，各类机构都面临着同样的挑战：运营领导者尚未意识到他们现在管理的是数字化劳动力——而这种认知差距的后果已经开始显现。
"我们前进的最大障碍实际上是让运营部门理解这从根本上改变了他们在等式中的角色，"芝加哥Rush大学医学中心首席信息官Jeff Gautney表示。"他们正在管理数字化劳动力，需要这样思考，而不是认为IT部门在监控这一切、IT部门在关注它、IT部门在提供这个解决方案，而我不需要以不同的方式思考它。"
Rush的代理式AI之旅大约进行了18个月，始于早期采用Salesforce AgentForce。Gautney先生坦率地谈到了技术演进过程中的初始挑战，但与Salesforce合作后，Rush重回正轨。该医疗系统了解到，代理式AI的故障方式与传统软件不同；不存在单一的明确故障点。相反，他们发现代理可能会缓慢偏离轨道，相关人员需要监控小问题并快速纠正。
"接口故障是二元的，要么正常要么失效，"Gautney先生说。"[AI代理]通常会慢慢变得异常，对吧？当它严重偏离轨道时，IT部门可以识别出来。但当它刚开始偏离时，这必须由运营部门负责，这是他们思考工作方式的根本改变。未来18到24个月的工作就是为运营领导者点亮这盏灯。"
这种区分——二元故障与渐进式退化之间——对医疗系统如何分配AI性能责任具有重要意义。在Rush，这加速了重新定义运营监督意义的推动，在AI代理持续运行、不断消耗资源且可能在没有任何明显警报的情况下缓慢偏离预期行为的环境中。
Gautney先生还提到了医疗系统开始面临的相关财务风险。与传统软件许可证不同，代理式AI基于令牌消耗运行，这意味着无论使用模式如何，成本都会全天候累积。
"当你启动一个代理时，它会一直运行，"他说。"它一直在消耗令牌，而你的定价模型很快就会——很容易看出代理的运营成本可能超过它所替代的人力成本。"
他认为，解决方案需要大多数医疗系统尚未为AI开发的财务运营纪律。
小组讨论中一个更具启发性的故事涉及像诊所营业时间这样日常运营事务。Rush部署了一个代理式工具来显示准确的排班信息，结果发现诊所更新自身营业时间的流程涉及给营销部门发邮件，然后营销部门再给网站供应商发邮件，导致两到三天的延迟。代理只是抓取系统中的任何信息。
"Gautney先生说："看起来像幻觉的问题实际上是数据和数据背后的不良流程造成的。"
在代理能够准确完成工作之前，诊所团队必须先修复流程。
"代理式AI立即暴露了组织中所有不良数据、所有不良流程以及所有非标准化操作，因为它把这些东西当作燃料，"Gautney先生说。"如果你的燃料质量差，引擎就会停止工作或朝着你真正不希望的方向发展。"
随着医疗系统准备部署"代理集群"——Epic、Workday、Salesforce、UiPath等公司的解决方案同时推动代理式工具——一个新的基础设施优先事项正在出现：身份管理。
"我们如何确保该代理真正拥有权限，能够执行它想做的事情，并请求和使用它想要的数据？"Gautney先生问道。"如果你没有投资身份管理，那将是确保你度过这段模糊时期的下一个关键基础设施要素。"
【全文结束】
