医学检测实际上是人工智能最早的试验场之一。早些时候，研究人员发现，机器在识别肉眼可能忽略的模式方面表现出色——比如指示肺栓塞的一小簇像素或心电监护仪中的特定节律。
但这里有一个巨大的陷阱。
虽然AI是一流的助手，但它有时会看到不存在的东西，并可能遗漏重要线索。随着高管们急于依赖AI来削减成本，专家警告称人类仍需要掌控局面。
因此，当纽约市健康与医院系统（NYC Health + Hospitals）总裁兼首席执行官米切尔·卡茨（Mitchell Katz）提出将AI置于前沿的愿景时，几位科学家提出了不同看法。
天真的想法
在2026年3月25日举行的一个论坛上，卡茨为他管理的11家医院系统描绘了明确的愿景。卡茨在小组讨论中表示："如果我们准备好应对监管挑战，现在就可以用AI替代大量放射科医生。"他概述了一项策略，即部署人工智能进行乳腺癌初筛，将人类医生排除在外，直到系统标记出异常情况，以实现大规模的成本节约。
医院高管们认为，该技术已经超越了人类能力。威彻斯特医疗中心健康网络（Westchester Medical Center Health Network）总裁兼首席执行官大卫·卢巴斯基（David Lubarsky）支持这一转变，声称算法的表现优于人类。卢巴斯基指出，对于非高风险女性，阴性检测结果出错的概率约为万分之三。
AI在乳腺X光检查方面也显示出真正的前景。在诸如MASAI等研究中，它帮助减轻了放射科医生的工作负担，并在某些情况下提高了癌症检测率。但作为支持工具的良好结果，并不等同于证明AI可以安全地独立解读扫描结果。
那些每天与患者打交道的人认为这些管理层面的野心是鲁莽的。
圣地亚哥北海岸影像中心（North Coast Imaging）的放射科医生穆罕默德·苏海勒（Mohammed Suhail）警告说，管理人员对这项技术的判断存在严重误判。苏海勒告诉《放射学商业》（Radiology Business）杂志，卡茨的言论提供了"无可辩驳的证据，证明那些自信满满却对医疗一无所知的医院管理人员对患者构成危险：他们很容易被那些远未具备提供患者护理能力的AI公司所欺骗。"
苏海勒继续说道："任何试图实施仅由AI进行解读的尝试都会立即导致患者伤害甚至死亡，只有对放射学一无所知的人才会说出如此天真的言论。"
认知模仿
苏海勒预见到的危险已经显现。
在一项近期尚未经过同行评审的研究中，斯坦福大学科学家测试了顶级视觉语言模型如何处理医学影像。他们发现了一个根本性缺陷。这些模型在从未见过实际X光片的情况下，通过了复杂的医学基准测试。算法没有承认缺失的视觉数据，而是为不存在的发现编造了详尽的解释。
研究人员将这种令人担忧的行为称为"AI幻觉"。它超越了生成式软件典型的随机、无意义的错误。机器模仿了人类医生会采取的精确推理步骤，却忽视了标准的安全检查。
斯坦福研究人员在预印本中写道："在这种认知模仿中，模型模拟了可能导致答案的整个感知过程。"他们警告，不要仅仅因为算法能够很好地解释自己就信任它。一台机器可能会生成一个逻辑完美、细节丰富的医疗报告，听起来完全基于现实，即使它实际上完全看不到患者的真实X光片。
尽管追求效率的势头强劲，但放射学的经济状况目前并不利于机器。多年来"AI将取代你"的头条新闻导致了新放射科医生的短缺，如今人类医生的数量不断减少，而工作量却比以往任何时候都高。
算法加速了工作流程，但并未取代实践的人性核心。放射科医生不仅仅是为图像贴标签；他们对复杂病例进行分诊、培训住院医师，并承担改变生命的诊断所带来的法律责任。真正的医学目前仍然是一种本质上属于人类的行为。
【全文结束】