在过去的两年中，关于数字行为健康领域AI的讨论主要集中在操作辅助工具上。我们在文档记录、行政工作流程和患者接诊等领域已经看到了切实的进展。这些工具通过减轻负担和提高效率，为医疗服务提供者带来了实质性的改变。对于许多临床医生来说，曾经延续到深夜的病历记录工作终于开始减轻了。
但在行为医疗保健中，一些最重要的决策并不体现在文档记录或工作流程中。这些决策体现在临床医生如何解读信息、应用知识，以及在通常模糊不清的情况下做出判断。两位经验丰富的临床医生面对同一病例可能会得出合理的不同结论。有时这种差异是恰当的，但往往这种差异反映了标准不明确、应用不一致或培训和经验的差异。
目前开始出现的转变是，不再仅仅将AI视为帮助完成任务的操作工具，而是将其视为一个系统的一部分，这个系统有助于使决策在时间上更加一致。目标不是取代临床医生，而是让临床医生和AI代理协同工作，使临床推理更加明确和一致，从而让每位患者都能受益于其临床医生的最佳思维。
从工具到系统
大多数人仍然将AI视为一位临床医生和一个AI助手之间的一对一关系。但在实践中，决策，特别是接诊和临床匹配领域，受到多种输入、对标准的不同解读，有时甚至是分歧的影响。在这种情况下，更有用的思考AI的方式是将其视为更广泛的决策系统中的一层。这可能表现为临床医生做出初步判断，AI层使用标准化的临床标准和历史模式来结构化和压力测试这种推理，以及清晰的AI升级路径和人类监督，后者对最终决定负责。
临床匹配作为实际案例
临床匹配的确定是这一实践方式的良好例证。在许多数字行为健康环境中，临床评估人员进行接诊评估，并独立决定患者是否适合接受护理。更复杂的方法引入了AI支持的层次，基于收集的信息生成结构化输出——例如建议、置信水平、明确定义的标准，以及澄清缺失或模糊细节的提示。
在大多数情况下，评估人员和AI意见一致。仅这一点就很有用，因为它强化了一致性，并为团队提供了一个共享的参考点。但更有用的情况是存在分歧的时候。
分歧提升系统
当评估人员和AI意见不一致时，可能会触发一个结构化的升级过程，案件会转到第二个AI层或主管代理，后者提供另一个结构化的视角，同时由人类主管做出最终决定。结果是一个分层决策，它结合了评估人员的原始判断、初始AI输出、主管级别的第二个AI视角以及主管自己的审查，所有这些都汇聚成一个最终决定。
随着时间的推移，这些分歧揭示了改进整个系统的模式，包括标准如何应用、AI如何解释病例，以及基础规则需要在哪里更加精确。这意味着每一次分歧都通过帮助校准临床医生、改进AI和明确基础规则来提升系统。
有意识地安排协调和人类的位置
"人在回路中"的方法对于数字行为健康中负责任的患者护理至关重要，这个术语本身已经成为表示安全的标准方式。与此方法相关的一个关键问题是人类在回路中的位置。这是因为工作流程的每个部分并不都需要相同程度的人类参与。例如，数据组织和问题生成可以得到AI的大力支持。这些能力越来越受到特定领域临床模式和结构化数据的影响。但在影响护理获取或治疗规划的决策上，特别是在模糊或高风险的情况下，人类仍然是最终决策者，同时积极与AI合作，挑战假设，揭示盲点，并实时精炼他们的推理。
这种协调背后的设计选择与技术本身同样重要。哪些决策属于AI，哪些属于人类，哪些需要两者按顺序工作，这些都需要提前定义，临床和专业技术领导需要紧密合作。当系统从真实世界的临床输入中学习时，这一点尤为重要；目标不仅仅是使用数据，而是持续优化其在实际决策中的应用方式。随着系统的成熟，这些选择需要定期重新审视，因为一个强大的协调模型会随着学习而演变。
为什么治理很重要
没有强有力的护栏，这一切都无法运作。这意味着要将患者数据保存在安全、合规的环境中，保持明确的人类责任，持续监控性能，并创建允许系统安全改进的反馈循环。如果做得正确，这将随着时间的推移建立信任。
这解锁了什么
当这样一个系统运行良好时，效果会在多个维度上显现。在临床方面，决策变得更加一致，理由更加清晰，边缘案例得到更严格的处理。在操作方面，升级变得更加集中，数量减少但细节更丰富，评估人员和AI之间更高的同意率意味着临床医生可以将更多时间花在真正需要他们判断的决策上。随着时间的推移，系统从分歧和模式中学习。
医疗保健中AI的下一阶段是构建一个人类临床医生、主管和AI都能贡献、相互挑战并改进决策方式的系统。那些做对这一点的组织将是那些最明确地知道AI适合在哪里、人类应该在哪里领导，以及两者如何随着时间相互提升的组织。
照片：Irina_Strelnikova，Getty Images
帕克·菲利普斯致力于利用技术和AI扩大年轻人获得高质量心理健康护理的机会。作为首席技术官，他制定了公司的技术愿景，并领导采用AI为其创新的基于保险的焦虑和强迫症虚拟护理模式提供支持。该平台旨在增强治疗效果并推动运营规模，证明基于价值的模式可以同时提供卓越的护理和强劲的经济效益。凭借在Commure和Palantir建立团队和技术的经验，菲利普斯专注于创建解决可获取的基于证据的心理健康治疗关键需求的系统。
凯瑟琳·"凯特"·博格博士是一位获得认证的儿童和青少年心理学家，致力于通过创新的基于证据的护理帮助患有焦虑和强迫症的年轻人。她共同创立了麦克林医院的麦克林焦虑掌握计划(MAMP)，这是一个全国公认的强化治疗项目，并担任哈佛医学院心理学助理教授。博格博士发表了同行评审的研究，进行了包括TEDx在内的全国演讲，并培训了医院、学校和社区。2024年，她被评为"50位数字健康前线英雄"之一。她还共同创立了InStride Health，以扩大年轻人和年轻人获得及时有效护理的机会。
【全文结束】