关键要点
- 大多数放射科医生以及四种人工智能程序无法一致地区分真实X光片与AI生成的深度伪造图像。
- 深度伪造医学图像对科研诚信和患者护理构成威胁。
- 需要为临床医生和AI程序提供更好的深度伪造图像识别培训。
今天发表的一项研究显示，大多数放射科医生在评估一组真实与伪造混合的图像时，无法区分人工生成的X光片（即深度伪造图像）与真实X光片。
最初，17名放射科医生中只有7人识别出了由人工智能程序生成的深度伪造图像。在事先知道存在伪造图像的情况下再给两次机会，放射科医生仍有25%–30%的时间无法区分真实与人工X光片。随着放射科经验增加，表现并未改善。更证明该技术高超的是，四种不同的人工智能程序（包括用于生成伪造图像的程序）也无法识别出所有深度伪造图像。
来自纽约市西奈山伊坎医学院的医学博士Mickael Tordjman及其同事在《放射学》上报告说，这些发现凸显了对医学研究和医疗保健的潜在威胁，以及需要为放射科医生和AI系统提供更好的深度伪造识别培训。
作者总结道：“放射科医生和当前多模态大语言模型在识别合成X光片方面的中等表现，加上这些工具的广泛公开可用性，突出了恶意利用的可能性。未来的研究应评估更广泛的模型，并使用具有较低AI图像患病率的更具代表性的样本，这可能会降低读者的灵敏度。”
他们补充说：“需要多层次应对措施，包括临床医生教育、自动深度伪造检测系统、强制水印和严格的数据集治理，以防止这种新兴新奇事物演变为系统性威胁。”
该研究反映了“深度伪造的民主化”，正如一篇随附社论的作者所言。大语言模型使得任何有互联网连接的人都能生成逼真的X光片。
多伦多大学的医学博士Rajesh Bhayana和医学博士Satheesh Krishna断言：“这从根本上改变了威胁格局。它反映了医学之外观察到的一种模式：尽管图像处理长期以来在技术上可行，但生成模型的广泛普及推动了社交媒体上非自愿深度伪造图像的令人不安的扩散。因此，这个问题不在于新颖性，而在于规模；当造假变得容易且可及，风险就从理论转向了系统性。”
Bhayana和Krishna赞同作者关于更好教育和更多安全核查的呼吁，并补充道：“人工智能已将伪造医学真相的成本降低到几乎为零。在过去十年中，我们专注于人工智能帮助我们看到更好的潜力。现在我们必须应对其让我们看到根本不存在的事物的潜力。”
并非新风险
这种潜力在人工智能技术发展的早期就已显现，并一直让巴尔的摩约翰霍普金斯大学医学中心的放射科医生Elliot Fishman医学博士感到担忧。六年前，他合著了一篇关于AI在放射学中潜在危险的文章。作者描述了一种现有的“生成对抗网络”，它同时训练计算机系统生成图像以及区分真实与人工图像。
作者指出：“生成对抗网络有可能提高图像质量、减少辐射剂量、增强训练算法的数据以及执行自动图像分割。然而，如果这些人工图像被怀有恶意意图的黑客渗透到我们的医疗系统中，也存在造成伤害的可能性……这些攻击可以针对特定患者，也可以用作对我们放射学数据的更普遍攻击。”
在AI生成图像的领域，癌症可以出现和消失、增大或缩小、改变位置和外观。Fishman及其同事引用了一篇之前的文章，描述了恶意黑客如何可能利用人工图像“来阻止政治候选人、破坏研究、实施保险欺诈、进行恐怖主义行为，甚至实施谋杀。”
Fishman告诉《MedPage Today》：“从概念上讲，你可能会想，‘谁会做这么愚蠢的事？’你只需要看看病理学领域，那里有人伪造了病理切片之类的东西。多年来一直有人这么做，并且被抓住了。数百万篇关于人们上法庭的文章。他们观察细胞，并创建额外数据来让他们的数据证明某个观点。”
他补充说，为了提高获得资助或期刊接受的机会而损害科研诚信，可能是最常见的滥用类型。然而，向针对医疗记录或患者护理的恶意行为迈出一步并不大。
Fishman说：“我们知道人们会做各种各样的事情，仅仅因为他们可以。他们就是不良行为者。”
研究设计、目标、结果
Tordjman及其同事报告了一项回顾性研究的结果，该研究评估了放射科医生识别由大语言模型ChatGPT生成的伪造X光片的准确性。该研究包含三个部分。在第一部分，17名临床经验从0到40年不等的放射科医生审查了154张X光片（一半真实，一半由ChatGPT生成），并对图像质量进行了评分并确定了诊断，而不知道研究目的。在被告知研究目的后，放射科医生被要求确定每张图像是真实的还是AI生成的。研究人员还评估了四种大语言模型区分真实X光片与伪造X光片的能力。最后，放射科医生和大语言模型评估了110张新图像（一半真实，一半由RoentGen程序生成）。
主要结果是研究第二和第三阶段每位读者的准确性。一开始，10名放射科医生熟悉AI生成的X光片，但17人中有13人不知道ChatGPT可以生成图像。
在第一次练习中，10名放射科医生将深度伪造图像判断为真实。当读者重复该练习时，他们区分真假X光片的总体准确率为74.8%。个体读者准确率从58.4%到91.6%不等（合并灵敏度69.1%，特异度80.4%）。
研究人员未观察到放射科医生的临床经验年限与准确性之间存在关联的证据。对AI生成图像的熟悉程度也未影响结果。放射科医生的准确率在胸部X光片与其他类型X光片、病理图像与正常图像、骨折与非骨折图像或不同解剖结构之间也没有显著差异。肌肉骨骼放射科医生比其他放射科医生表现更好（83.0% vs 70.3%，P=0.04）。
在研究的第三阶段，放射科医生区分真实与RoentGen生成图像的总体准确率为70%。读者或图像特定特征并未显著改变结果。
大语言模型远非完美。GPT-4o对GPT-4o图像的准确率为85.1%，对RoentGen图像的准确率为75.5%。GPT-5对两组图像的准确率分别为82.5%和89.1%。Gemini 2.5 Pro（56.5%和60.9%）和Llama 4 Maverick（59.1%和51.8%）的准确率则大幅下降。
AI生成图像的质量既是优势也是潜在缺点。当图像始终完美无瑕，几乎好得令人难以置信时，这会让Fishman起疑心。
“一张典型的切片，染色不会完美。边缘看起来有点奇怪，”他说。“当你有一个AI创建的图像时，它就像毕加索的画作。每张图像都是完美的。你可以有一张好图像，但当它开始看起来太好了……我认为这就是[开发者]正在用AI做的事情，训练它来发现[那种完美程度]。AI会看100个病例，然后说‘变异太少。’如果你有100张脚或脚踝的图像，或者腹部或胸部的CT，患者是不同的——有些更胖，有些更瘦，所以图像中有更多的噪声。如果每张图像中的噪声都一样，如果边缘完美，那就出问题了。”
AI带来的潜在风险变得如此之大，以至于Fishman在接受图像为真实之前想要证据。
“我从事胰腺癌的AI研究，我们只看经过验证的连续病例，”他说。“当我看到一个病例是胰腺癌时，我向你保证，如果没有活检，我不会使用那个病例，即使我敢赌上我最后一个美元——或者几乎最后一个美元——它也是胰腺癌。偶尔你会得到一个奇怪的诊断，但为了真正准确，我总是有证据。”
为了支持医生对AI生成医学图像的识别培训，Tordjman及其同事开发了一个免费的精选深度伪造数据集。
【全文结束】