数字第二意见：自主检测数字病理学中的AI幻觉
A digital second opinion: Autonomous detection of AI hallucinations in digital pathology
组织染色是医学诊断的基石，用于突出细胞结构并在光学显微镜下使组织特征可见——这对于识别癌症等疾病至关重要。传统上，这一过程涉及将化学染料（如苏木精和伊红）应用于薄切片的组织样本。
虽然有效，但这个过程耗时、破坏性且资源密集。由AI驱动的虚拟染色提供了一种变革性的替代方案，通过从无标记自荧光显微镜数据中生成相当于组织化学染色的图像来实现。
这种计算方法使得诊断更快、更具成本效益且可扩展，而无需物理染料，并且可以保留组织样本以供进一步分析。然而，与其他生成式AI模型一样，虚拟染色也存在幻觉的风险——即AI添加或改变实际样本中不存在的微观组织特征。
当这些幻觉看起来很逼真时，它们甚至可能误导经验丰富的病理学家，从而危及诊断准确性。
为了解决这一挑战，加州大学洛杉矶分校Aydogan Ozcan教授领导的团队与南加州大学和哈达萨希伯来大学医学院的病理学家合作，开发了一种用于检测虚拟染色和数字病理学中幻觉的自主图像质量评估工具。
该工具名为AQuA（自主质量评估），它能够自主检测数字化染色组织切片中的细微幻觉——无需与组织化学真实值进行比较——并且在识别潜在误导性的组织图像伪影方面优于人类专家。
Ozcan教授表示：“通过AQuA，我们为医学中的AI生成图像增加了一层信任。它像一个数字第二意见，不厌其烦地检查每一个染色的组织切片，确保其安全用于诊断。”
AQuA发表在《自然生物医学工程》杂志上，独立于原始的AI染色模型，不需要配对的组织化学染色图像。它使用H&E和自荧光域之间的迭代图像转换周期，放大即使是最细微的不一致之处。
这些周期产生一系列图像，由一组神经网络迅速评估——实际上是数字评委小组——以确定图像质量和标记幻觉，从而在图像到达病理学家之前进行标记。这种架构使得AQuA快速、适应性强，并且可以跨不同组织类型、染色风格和病理应用进行扩展。
通过对人类肾脏和肺活检样本的广泛测试，AQuA在区分高质量和低质量虚拟染色图像方面的准确率分别达到了99.8%和97.8%，所有这些都没有访问原始组织化学染色的组织图像或用于生成虚拟染色对应物的AI模型。
它还显示了与董事会认证病理学家超过98%的一致性，在某些情况下甚至超越了他们——特别是在检测专家在没有真实染色参考时错过的逼真的幻觉方面。
除了虚拟染色外，研究人员还展示了AQuA可以评估常规化学染色组织切片的质量，自动检测临床工作流程中的常见染色伪影。
随着AI越来越多地集成到医学诊断和数字病理学中，像AQuA这样的工具对于质量保证至关重要——确保AI生成的图像是准确、可靠且安全的，适用于临床使用。
这项技术为可信且可扩展的AI驱动数字病理学铺平了道路，使其在临床实践中得到广泛应用。
更多信息：Luzhe Huang等人，《一种稳健且可扩展的框架用于虚拟组织染色和数字病理学中的幻觉检测》，《自然生物医学工程》（2025）。DOI: 10.1038/s41551-025-01421-9
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，如有侵权请联系我们删除。
本页内容撰写过程部分涉及AI生成（包括且不限于题材，素材，提纲的搜集与整理），请注意甄别。