OpenAI与美国国防部签约的决定，而Anthropic选择不参与，这件事令人担忧但并不意外。它反映的是资源、激励和野心，而非策略。但这一举动的意义远超企业博弈。它提醒我们，人性以深刻的方式塑造着技术的采用与影响。
人类天生倾向于选择阻力最小的路径。我们偏爱确定性、效率，以及工具能让我们摆脱认知或操作负担的希望。这种天性影响着每一个决策，从选择信任哪个AI系统，到采用新的数字健康平台，再到在临床实践中如何权衡风险。这也是为何医学领域的AI，尽管潜力巨大，却往往比炒作所暗示的发展得更慢。
我们希望这些工具能够奏效，因为它们能让我们解放出来做更多事情。想象一下在文档记录上节省的工时，识别细微临床模式的潜力，以及减轻复杂病例认知负荷的机会。AI确实能够带来这些益处，但前提是我们理解它的局限性以及它被创造出来的背景。
AI是为规模化而生，而非为个体
医疗领域的大多数AI系统是为合同和庞大数据集设计的，而不是为单个临床医生的工作流程。Google、IBM Watson以及其他早期进入医疗领域的公司，其系统旨在规模化处理数据并向大型组织展示能力。它们的结果在整体上令人印象深刻，但对个体从业者的益处往往是次要的或附带的。
这并非缺陷，而是激励的反映。我们心甘情愿地将数据分享给这些系统，因为我们会得到回报：获得洞察、效率提升或改善护理的承诺。但这些工具的设计很少针对床边临床医生或诊室里的患者。
即便在今天，许多公司声称“为临床医生构建”，但底层的大型语言模型很少针对日常医疗决策进行优化。它们没有针对临床实践中的细微差别、不确定性和具体情境判断进行调整。输出的结果可能看似自信且精确，但自信并不等于能力。
确定性的幻觉
AI的输出通常以概率、百分比或置信度分数的形式呈现。一个系统可能会告诉患者：“你的胸痛很可能是焦虑所致，置信度85%。”这个数字感觉很确定，尽管它只是一个概率估计。而临床医生可能会说：“我们已经完成了检查，紧急病因不太可能。但如果你的症状加重，就去急诊。”这种含糊其辞反映了经验、判断和对风险的理解，但感觉不那么果断。
这种差异很重要。患者，有时也包括临床医生，会被算法呈现的确定性所吸引。它让人产生一种错觉，认为一个复杂、不确定的问题已经解决了。实际上，AI和临床医生都在不确定性下工作，但呈现方式塑造了感知和行为。过度依赖算法输出可能是危险的，尤其是当患者将自信的概率解读为最终诊断时。
我亲身经历过这一点。在我的实践中，AI可以辅助笔记记录、总结文献或突出模式。但它也可能以微妙的方式失败，生成看似合理但不符合临床判断的建议。如果谨慎使用，这些差距是可以控制的。但若不加以约束，它们可能会误导。
当技术失效时，临床医生会适应
当技术不可用或失效时，临床医生依赖他们一直依赖的东西：判断、经验和即兴应变。AI并非这种专业知识的替代品，而是补充。
我曾在灾区和冲突地区工作，那里技术不可靠，连接时断时续，电力稀缺。在这些环境中，护理变得“模拟化”。临床判断、即兴应变和人文关怀才是维持安全有效护理的关键。即使是最先进的AI系统也无法复制临床医生在实时情境中的态势感知、伦理推理和适应能力。
这一现实提醒我们，无论工具多么先进，它们的存在是为了支持人类判断，而非取代它。技术可以放大我们的能力，但它无法替代定义临床工作的实践、直觉和道德推理。
激励的重要性
理解AI背后的激励至关重要。这些系统是为规模化、合同和市场优先事项而构建的，而非为了复制临床医生的判断。大型组织能够负担得起投资模型、数据积累和基础设施的费用。个体从业者则无法做到。技术能力与日常临床需求之间的对齐仍然不完美，这种差距对于领域外的人来说往往看不见。
自信并非能力，无论是人类还是机器。高估AI的确定性可能会误导人。低估人类判断则可能低估数十年的经验。两种错误都带有风险。要负责任地整合AI，我们不仅需要理解这些工具的技术能力，还需要理解支配其使用的人类行为和系统性激励。
展望未来
AI在医疗领域具有变革潜力，但要实现这一潜力需要细致入微。它要求反思人类行为、承认不确定性，并意识到系统性激励。它要求在面对复杂性时保持谦逊。
临床医生将继续不可或缺。判断、经验和适应性是不可替代的。工具应该增强而非掩盖支撑安全有效护理的知识和洞察力。挑战不在于不加批判地接受AI或完全拒绝它，而在于深思熟虑、合乎伦理地使用它，以服务于更好的患者护理。
技术可以改变我们做什么，但不能改变负责任地行医的意义。最终，人类心智——其判断、反思和适应的能力——仍然是我们最复杂的工具。
Dr. Aditi U. Joshi 是 Ardexia 的创始人，她帮助医疗机构通过以临床医生为中心的采纳策略实现数字化转型。她是一名急诊医生，也是《远程医疗成功：如何在远程护理新时代蓬勃发展》一书的作者。她设计了一个在三大洲使用的数字健康框架，并专注于将失败的实施转变为可衡量的成功。
【全文结束】