医疗AI领域存在一个看不见的坟墓，它从未出现在医疗系统的公告或投资演示中。这里填满了那些在验证研究中获得高准确率评分、在演示中令高管赞叹、在试点阶段激起真正兴奋的工具——然后，在遭遇临床工作流程的现实时，它们悄无声息地死去了。
负责部署这些工具的领导者们已经足够频繁地看到这种模式重演，以至于他们不再责怪技术本身。问题几乎从来不在模型上。问题在它周围的一切。
加州大学洛杉矶分校医疗系统（UCLA Health）应用AI总监Thomas Kingsley已经足够规律地观察到这种失败模式，以至于能精确描述它。罪魁祸首并非有缺陷的算法，而是有缺陷的采纳理论。
“大多数有前途的AI工具之所以失败，不是因为它们不起作用，而是因为它们在设计时没有考虑临床工作流程、用户体验和实施环境，”他说。“一个完全准确的模型，如果每个病人给医生增加30秒的工作量，就会悄然枯萎。医疗AI的难题是‘社会技术性’的——治理、信任、集成和持续的变革管理——而不是算法性的。”
在繁忙的临床环境中，即使是微小的摩擦也会因为大量的患者接触而积累成显著负担。工具往往没有考虑到这一现实，临床医生就会停止使用它们。采用率最高的工具不是最花哨的，而是那些解决日常繁琐事务的工具。
这里有一个反直觉的启示：最成功的AI部署将是那些用户几乎注意不到的。技术退到幕后，减少摩擦，而不是增加一层新的交互。
总部位于新泽西州莫里斯敦的大西洋健康系统（Atlantic Health）执行副总裁兼首席信息与数字化转型官Sunil Dadlani在Epic生态系统中看到了这种动态：与现有临床环境整合的工具始终优于独立平台，无论后者在技术上多么先进。
“人们常有一个假设，认为最先进或最大的模型会自动带来最强的临床或运营结果。在医疗领域，这很少成立，”他说。“上下文和工作流程整合远比模型大小更重要。一个专注、调优良好、直接嵌入Epic工作流程的模型，往往胜过置于临床医生日常环境之外的高度复杂的独立平台。”
同样，位于巴尔的摩的约翰·霍普金斯医学（Johns Hopkins Medicine）商业智能与分析高级总监Hetal Rupani告诉贝克，拥有一个高度准确的“完美”模型并不能保证高影响力。
“真正的价值更多地取决于AI如何有效地整合到临床工作流程、电子病历系统中，以及如何在战略、数据和人员之间对齐，”他说。“只有当AI有意义地改善了工作方式时，效率提升才会实现——而不是当它在孤立环境中表现得很好。”
识别合适的工具并整合到临床工作流程中，提供强有力的反馈——或者共同开发应用程序或平台——需要时间，但值得付出努力。这些工具需要易于使用、值得信赖，并且立即向临床医生展示价值——而不仅仅是底线——以获得采纳。跳过技术实施中的人性面会产生下游后果。
“我见过接近完美的算法被束之高阁，因为没有人事先问过临床医生，”马萨诸塞州阿特尔伯勒的斯特迪健康（Sturdy Health）临床信息学总监Jennifer Ngure说。“在AI方面取得成功的医院，不是那些拥有最好工具的医院——而是那些将实施视为人的问题、在技术问题之前的医院。”
【全文结束】