人工智能已迅速从新兴技术发展为日常临床工具。医生越来越多地依赖人工智能进行病历记录、决策支持、分诊和诊断辅助，而患者则带着聊天机器人生成的影像学检查、实验室结果和潜在诊断解释来到就诊现场。
对于医疗系统领导者而言，行业的核心AI问题已相应改变。挑战不再在于临床医生是否会采用AI，而在于医疗机构能否对其进行充分治理以赢得持久信任。
AI责任性时代
Inflo Health（一家提供AI驱动的随访管理平台的供应商）首席执行官安吉拉·亚当斯(Angela Adams)表示，这一转变标志着医疗健康行业正进入她所认为的AI责任性时代。当人类与算法越来越多地共享临床工作流程时，高管和临床主管现在面临着越来越大的压力，需要了解AI在何处影响医疗服务、谁对这些决策负责，以及应如何进行监督。
"在过去几年中，难点在于让临床医生使用AI，"她回忆道。"这个问题基本上已经自行解决了。现在，临床医生在病历记录、分诊、决策支持和检测中将AI作为常规手段使用。取而代之出现的差距是可追溯性。"
亚当斯认为，许多机构无法自信地回答一个看似简单的问题：AI究竟在何处影响患者护理？内部清单往往无法捕捉企业范围内运行的每一个AI应用。
同时，患者通过将外部生成的AI建议带入临床诊疗，引入了另一层复杂性。这种组合创造了治理盲点，远远超出了医疗系统自身部署的技术范围。
部署前必须明确责任
亚当斯表示，医疗机构应在激活AI工具之前就建立明确的责任归属，而不是在出现问题后才争论责任。她认为，责任涵盖临床医生、供应商和医疗服务提供机构——但各方承担不同的义务。
"这是我最想推动领导者们思考的地方，"她说。"谁负责的问题应该在工具部署前就得到解答，而不是在患者受到伤害后再重建。对于AI触及医疗服务的每一个环节，医疗系统都应该能够说明谁对输出结果负责，以及当结果出错时会发生什么。"
"如果你无法回答这个问题，该工具就不应启用，"她继续说道。"临床医生必须对自动化偏见保持警惕，这是一种人类本能，会让人比证据所支持的更信任机器。AI提高了临床判断的重要性，而非消除其必要性。"
她表示，临床医生仍需对医疗决策负责，而医疗系统必须针对自身患者群体验证AI性能，而非仅依赖供应商研究。同时，供应商应提供关于模型开发、局限性和预期性能的透明信息。
这些责任共同构建了一个持续的治理框架，而非一次性实施活动。
扩展AI需要组织信任
亚当斯表示，许多机构成功完成AI试点，但在企业范围内扩展时却遇到困难。其中一个原因是治理往往变成集中控制，而非协作决策。
"最常见的错误是将治理视为控制功能：由中央委员会在实际工作人员之上批准或拒绝，"她指出。
相反，她主张在实施过程中包含临床医生、信息专家、质量领导者和运营利益相关者的多学科团队。同样重要的是，组织应避免认为成功的试点自动预示着企业范围内的表现。
她补充说，随着AI遇到新的工作流程、患者群体和临床边缘案例，持续验证对于维持临床医生的信心至关重要。
保护人际关系
尽管广泛讨论AI取代临床医生，但亚当斯认为该技术的最大价值在其他方面。行政自动化可以通过减少文档负担将注意力重新转向患者，而AI驱动的随访可以帮助确保异常发现得到适当的后续步骤，而不是在部门之间消失。
"替换叙事获得了最多的关注，但教给我们的最少，"她说。"AI将改变大量临床工作。它不会取代医疗服务核心的人际关系，那些理解这一点的组织将利用技术来保护这种关系，而不是将其挤出。"
她还认为，患者使用消费级AI不一定削弱临床医生的地位。如果处理得当，这些对话可以创造信息更充分的患者，同时强化医生作为日益复杂信息的可信解释者的角色。
"在衡量方面，我最想挑战大多数领导者，因为最容易的指标往往是最具误导性的，"她解释道。"仅通过吞吐量和节省的时间来评判AI，你可能会优化出一个更快、更冷漠、更不受信任的体验。"
"真正表明更强关系的数字更为安静：直接患者互动的时间、患者对自己护理的理解程度、随访循环是否可靠关闭，以及临床医生是否信任他们手中的工具，"她继续说道。"当效率上升而这些指标下降时，这项技术正在让你失去医疗服务存在的根本目的。"
对于医疗健康高管而言，这些指标可能成为AI成功的决定性指标。随着采用在全行业成为常规，竞争优势将越来越多地来自构建使AI透明、负责并值得临床医生和患者信任的治理结构，而非首先部署最新模型。
【全文结束】