医学建立在患者与医生、临床医生与证据、以及从业者与同行之间的信任基础上。如今，一个新的参与者进入了诊室：人工智能（AI）。诊断算法可以在几秒钟内分析数千个数据点，将症状与数百万病例历史进行匹配，并提出单个人类大脑无法自行生成的治疗建议。然而，尽管AI在计算能力上强大，但在临床医学中，它面临一个软件升级无法轻易解决的障碍：它本应辅助的医生对其的信任。
2024年美国医学会对近1200名医生进行的一项调查显示，尽管三分之二的医生报告使用医疗AI，但近一半的医生将加强监管列为在他们真正信任这些工具之前最需要的监管行动。医生们提出了关于错误建议、责任风险、数据隐私以及与现有系统整合不佳等未解决的担忧。报告指出，广泛采用与真正专业信任之间的差距是现代医疗保健中最关键的断层线之一。
黑箱问题
医生对AI持怀疑态度的一个核心原因是，许多诊断系统，尤其是深度学习模型，无法解释它们如何得出结论。一位经过多年培训的放射科医生可以描述为什么乳腺X光检查上的某种模式令人担忧。相比之下，将同一图像标记为高风险的AI系统可能只提供一个概率分数，而不解释其背后的推理过程。
当医生做出诊断时，可以向同事、患者或医疗委员会解释。而当AI做出诊断时，采取行动的医生承担全部法律和道德责任，却无法评估底层推理的合理性。2025年10月发表的一份报告中，斯坦福放射学AI开发与评估实验室的研究人员直接描述了这种动态：由于医生无法看到黑箱AI系统如何得出结论，也无法理解其训练所用的数据，医生只能自行判断AI预测是否可信。
与黑箱问题密切相关的是责任归属这一未解决的问题。如果医生遵循导致患者伤害的AI建议，现行法律将责任明确地归于医生。美国医学会前主席Jesse Ehrenfeld在2025年发表在《npj Health Systems》上的一篇文章中评论道："AI太过强大且革命性，不能让责任和治理问题悬而未决。"
这种责任真空为医生依赖AI创造了深刻的阻碍，即使他们私下可能认为AI是正确的。采取AI建议是一种单向风险转移：如果一切顺利，医生因其良好的临床判断而获得赞誉；如果出现问题，AI及其创建者都不会分担后果。研究人员称，除非监管机构为医生、医院和AI开发者制定明确的共同责任框架，否则这种动态将持续成为临床AI采用中最强大的结构性障碍。
斯坦福生物医学信息学研究中心研究人员进行的一项研究发现，当医生和大型语言模型诊断工具都被提供患者症状时，后者在测试中的表现优于医生。有趣的是，当医生被要求使用AI建议进行诊断时，评估的正确性反而降低了。"尽管AI表现良好，但医生并未完全信任其结果，"该研究作者、同时也是斯坦福ARISE（AI研究与科学评估）执行主任的Ethan Goh博士说。
信任也是熟悉度的产物，如今大多数执业医生是在AI在临床决策中不起作用的世界中接受培训的。医学教育开始对此作出回应。哈佛医学院已将其哈佛-麻省理工健康科学与技术课程的学生AI培训设为必修课，要求完成为期1个月的医疗AI入门课程。斯坦福大学医学院已设立专门的AI医学教育主任，并将AI培训整合到其整个课程中。
这种转变可能需要一代人才能完全渗透到该职业中。目前大多数执业医生没有接受过如何评估、校准或适当质疑AI输出的正式培训。研究该问题的人士称，没有这一基础，将AI建议整合到临床工作流程所需的工作量超出了许多医生在已经繁重的工作日中愿意承担的范围。
患者视角：必要性、不安与诊室
关于医学中AI的讨论主要集中在医生身上——他们的怀疑、责任风险和培训差距。但患者正在发展与医疗AI的复杂关系，这可能影响诊室内发生的事情。
考虑一下患者在诊室外的行为。如今，人们每天向AI提出健康问题超过4000万次——即使在那些对AI准确性表示担忧的人群中也是如此。斯坦福大学的皮肤科医生兼AI研究员Roxana Daneshjou博士认为，这种模式与其说是对AI的认可，不如说是医疗系统压力下的症状。
"患者无法获得他们所需的信息和护理，"她最近在接受采访时说，"因此他们转向可能正确、准确、值得信赖，也可能不正确的系统来寻求帮助。"
因此，患者使用AI工具的激增可能并非对技术的信任投票，而是对留下太多未解答问题的系统的变通方案。Daneshjou指出，这种行为不一定与声称的信任相符：患者在大量咨询AI的同时，对AI建议持怀疑态度。
患者不安的一个迹象是围绕AI记录员的法律挑战。几家医院系统面临患者的诉讼，称他们未被明确告知AI正在记录和转录他们的就诊过程。Daneshjou自己做笔记而不使用AI记录员，她说透明度问题是她迟迟不愿采用该技术的原因之一。她表示，由于患者有时会在诊室分享他们在其他地方不会分享的信息，记录这些敏感披露的影响加剧了她的不安。
为应对这些担忧，主要的学术医疗中心已设立AI治理委员会，专门监督AI如何整合到临床护理中。然而，在许多情况下，患者和医生完全绕过了这些结构：患者直接向AI查询医疗指导，医生在没有正式机构审查的情况下将AI工具整合到工作流程中。目前，治理机制和医学中AI的实际应用正在平行轨道上运行，不总是相交。
新奥尔良Ochsner医疗中心研究临床环境中AI使用的神经科医生Fawad Khan博士表示，解决这种透明度困境的一个方法是"医生需要学会如何向患者传达AI工具的使用"。
通向合理信任的途径
有几种前进途径正在获得关注。可解释AI（旨在揭示其结论背后推理的系统）被视为公认的技术优先事项。包括FDA在内的监管机构已从承认问题转向制定具体框架。
此外，医学专业本身开始阐明AI责任标准。包括美国医学会在内的组织已发布指南，呼吁在AI开发中保持透明度，在临床部署中进行有意义的人工监督，以及明确界定责任。这些尚非具有约束力的标准，但它们表明该专业正在按照自己的条件定义负责任的AI合作伙伴关系。
医生与AI诊断工具之间的信任赤字既非非理性，也非简单的代际抗拒变革。它反映了关于透明度、责任以及专业判断在何种条件下可以安全地委托给一个以医生无法完全理解的方式思考的系统的合理担忧。
开发者必须构建能够自我解释的系统。监管者必须构建公平分配责任的框架。医学教育者必须为未来医生提供批判性评估AI的工具。医疗系统必须创造环境，让医生能够安全地提出对AI表现的担忧，而不被视为进步的障碍。AI在医学中的前景是真实的。同样真实的是，在这一前景能够负责任地实现之前，仍有许多系统性工作需要完成。
本文引用的专家没有相关披露。
Michael Waldholz是一位经验丰富的健康和医学科学作家。
【全文结束】