《新英格兰医学杂志》因图像被AI篡改而撤回了两名北京研究人员的论文。
医学期刊正被低质量的AI生成作品所淹没，这对科学界构成了日益严重的威胁，可能会削弱潜在救命健康研究的价值和可信度。引用虚构期刊和研究的论文已迅速成为常态，引发了负责筛选大量新投稿的人员的重大担忧。
在一起备受关注的新失误中，声誉卓著的《新英格兰医学杂志》(NEJM)被迫撤回了两名北京研究人员关于一名中国男子在野火后肺部形成"支气管铸型"的论文，因为发现作者使用了AI工具篡改了论文中的一张照片。
这张有问题的照片显示了几乎漆黑、充满颗粒物的支气管组织，这些组织是从患者肺部冷冻取出的。据MedPage Today报道，一名87岁男子在大量吸入火灾烟雾后被送往北京清华长庚医院急诊科，需要移除完全被烟雾颗粒物堵塞的支气管组织，这是气道极度危险的阻塞。(MedPage后来在编者注中指出了这一撤回。)
然而，照片中组织上方看似公制测量尺的部分立即引起了警觉，因为刻度上的数字遵循着毫无意义的序列——这是使用不成熟AI图像生成器的典型标志。
作者表示，这一失误是一次粗心的意外。
在撤回声明中，他们写道："我们不了解期刊关于图像处理的政策，并使用人工智能(AI)工具将尺子移动到图像顶部，从而修改了我们的投稿。"
声明中写道："因此，我们希望撤回我们的图像和病例报告。"
这一失误应该让研究人员三思。如果仅仅是移动尺子就导致了这种AI生成的混乱，那么还有哪些有意或无意的操作正在被忽略？
一些社交媒体用户还质疑了其余有问题图像的有效性，指出照片中老年患者的肺部片段过多，引发了图像可能以其他方式被AI篡改的可能性。
在接受评论请求时，作者提供了对这一失误的更详细解释，但拒绝发送原始图像进行比较：
患者处于危急状态，正在接受紧急救援治疗。在紧急临床摄影过程中，尺子被放置在倾斜的角度。我们仅调整了尺子的位置，使图像更具美感和视觉可读性，并未篡改任何其他临床图像内容。
所有原始临床材料已提供给《新英格兰医学杂志》编辑部，因此不再单独发送给您。您可以向编辑部咨询具体细节。我们关于撤回的官方声明是按照期刊的建议起草的。
我们仅调整了尺子的位置，完全没有修改混乱的刻度数字。我们最初的意图是确保所有信息完全真实且可追溯。使用AI使尺子刻度看起来完全标准化非常容易，但我们没有这样做。在整个过程中，我们始终诚信行事，保持所有临床信息真实，并确保每个细节都完全可追溯。
我们确实没有完全理解期刊的相关政策，这是我们的错误。我们真诚地为此疏忽道歉。
作者随后补充了额外的背景：
我们只是调整了尺子的角度和位置。尺子本身的刻度是准确的，数字的混乱仅是由我们的位置调整造成的。用AI修正这些混乱的数字非常容易，但我们没有这样做，以保持所有数据的真实性和可追溯性。尺子本身并非AI生成。
在附加的编者注中，《新英格兰医学杂志》发出严厉提醒："作者必须披露任何AI工具的使用以及对图像所做的任何更改。"
该期刊的编辑政策规定，任何"大型语言模型、聊天机器人或图像生成器"的使用都必须在"投稿时"披露。
政策警告："作者应仔细审查和编辑通过AI使用产生的所有材料，以防止提交听起来权威但实际上不正确、不完整或有偏见的输出。"
与此同时，世界各地的编辑们正准备应对大量低质内容的冲击。
《科学》杂志在一月份的社论中写道："《科学》杂志对文献腐败的加强警惕已成为科学和科学出版界不懈追求真理的又一组成部分。发布经过多人判断仔细编辑的论文——以及在相关人员出错时撤回和更正论文——从未像现在这样重要。"
关于AI低质内容和学术界的更多信息：顶级医学期刊发表尖锐文章警告医疗AI
【全文结束】