人工智能可以成为医疗保健专业人士和研究人员的有力工具，特别是在解释诊断图像方面。放射科医生可以从X光片中识别骨折和其他异常，而AI模型则能看到人类无法察觉的模式，从而扩大医学影像的有效性。
然而，《科学报告》上的一项研究揭示了在医学影像研究中使用AI的一个隐藏挑战——即“捷径学习”现象，这种现象会产生高度准确但可能具有误导性的结果。
研究人员分析了超过25,000张膝关节X光片，发现AI模型可以“预测”与医学无关且不合理的特征，如患者是否避免食用煎豆或啤酒。尽管这些预测没有医学依据，但模型通过利用数据中的微妙和无意模式达到了令人惊讶的准确性。
“虽然AI有潜力改变医学影像，但我们必须谨慎，”该研究的资深作者、达特茅斯卫生系统的达特茅斯希区柯克医疗中心骨科医生、达特茅斯盖塞尔医学院骨科助理教授彼得·席林博士说。“这些模型可以看到人类看不到的模式，但并非所有它们识别的模式都有意义或可靠。认识到这些风险至关重要，以防止得出误导性结论并确保科学的完整性。”
研究人员还考察了AI算法如何依赖混淆变量（如X光设备的差异或临床站点标记）来做出预测，而不是依赖医学上有意义的特征。试图消除这些偏差的努力只取得了有限的成功——AI模型会继续“学习”其他隐藏的数据模式。
“这超出了种族或性别线索带来的偏见，”该研究的共同作者、达特茅斯希区柯克的机器学习科学家布兰登·希尔说。“我们发现算法甚至可以预测X光片拍摄的年份。这是一个顽固的问题——当你阻止它学习其中一个元素时，它会转而学习另一个之前忽略的元素。这种危险可能导致一些非常可疑的结论，研究人员需要意识到在使用这种技术时这种情况是多么容易发生。”
这些发现强调了在基于AI的医学研究中需要严格评估标准。过度依赖标准算法而不进行深入审查可能会导致错误的临床见解和治疗路径。
“当涉及到使用模型发现医学中的新模式时，证明的负担大大增加，”希尔说。“部分问题是我们的偏见。很容易陷入假设模型‘看到’的方式与我们相同。最终，它并不是这样。”
“AI几乎像是在处理一种外星智能，”希尔继续说道。“你想要说模型是在‘作弊’，但这将技术拟人化了。它找到了解决给定任务的方法，但不一定是我们通常理解的那种逻辑或推理。”
席林、希尔和研究的共同作者弗朗西丝·科贝克（达特茅斯盖塞尔医学院的三年级医学生）与佛蒙特州怀特河交界处退伍军人事务医疗中心合作进行了这项研究。
(全文结束)
