大型语言模型(LLMs)的质量取决于其学习的数据。如果训练数据包含社会偏见，这些模型可能会在回答中无意间重复这些偏见。随着生成式AI的兴起，LLMs的使用日益增加，人们已经发现它们包含基于种族、性别或地理位置等因素强化刻板印象的偏见。这一点令人担忧，因为基于LLMs的聊天机器人已成为医疗保健系统的重要组成部分，而与健康相关的污名可能对一个人的诊断和护理产生负面影响。
一项近期研究探讨了流行的LLMs是否对患有某些医疗状况（包括HIV、乙肝和心理健康问题）的人持有隐藏的健康相关偏见。研究人员旨在了解AI模型在纸面上看起来有多公平，与其在实际应用中生成的回答之间的差距。
他们发现，当使用标准污名问卷直接询问AI模型（包括ChatGPT、Grok和Claude）时，这些模型实际上得分比人类更好，表现出较少的明显偏见。
然而，当研究人员给模型提供情境判断任务，要求AI在51个开放式故事场景中预测接下来会发生什么（除健康状况外所有其他细节都相同），模型显示出明显的偏见，具体取决于所涉及的疾病。在比较心理健康状况或HIV/HBV患者与健康人时，这种偏见最为强烈。
这些发现发表在Nature Health期刊上。
理论与现实
能够执行患者筛查、安排医疗咨询和提供治疗支持的医疗AI在医疗保健和公共卫生中正变得越来越普遍。其回答也开始影响重要的诊断和治疗决策。在人类和AI中，有偏见的决策可能是健康不平等的主要驱动因素，影响信任和寻求医疗的行为。
大多数检查AI是否对特定健康状况的人有偏见的公平性测试工作方式就像一个简单的测验。它们向AI提出直接问题，并根据标准污名量表评估其是否给出有偏见的答案。然而，对AI医疗偏见的研究发现，纸面上的公平并不总是转化为实践中的公平。
AI在调查中的明确陈述并不总是与其情境判断相匹配。一个模型可能在公平性调查中表现出色，但在面对真实场景时仍会产生有偏见和污名化的结果。
在这项研究中，研究人员使用六个主要AI模型进行了两部分研究。首先，他们给每个模型提供与人类相同的标准化污名调查，涵盖HIV、乙肝和精神疾病，然后将AI的回答与超过56,000名真实参与过相同测试的人的基准进行比较。
然后，对于情境判断任务，研究人员构建了51个日常场景，并要求AI多次完成每个故事，每次只改变角色的健康状况。
"健康"被替换为该人患有精神分裂症、HIV或乙肝，其他所有条件都相同。然后，对61,200个模型决策（涵盖英语和中文）进行评分，以评估AI生成的结局中的偏见，看单个标签是否会悄悄改变AI使该角色显得多么富有同情心或值得信赖。
在设计用于测量偏见的标准调查中，AI模型实际上在污名方面得分低于普通人。然而，当研究人员要求AI完成关于日常生活的故事情节时，模型往往会根据人们的健康状况区别对待。HIV和心理健康状况经常与危险或人们应该保持距离的想法相关联。与此同时，背痛和高血压则更多地与同情或认为该人能力不足的假设相关联。
使用的语言也很重要，中文提示产生的与污名一致的反应比英文提示更多，特别是在心理健康场景中。研究人员还发现，被要求在回答前逐步推理的AI模型表现出的偏见要少得多。
基于这些发现，研究团队确定了九种可以帮助减少AI偏见的策略。这些策略包括要求AI关注个体而非通过诊断来定义某人（个体化），以及指示AI在健康状况与任务无关时忽略健康状况（相关性过滤）。为医疗机构配备提示工具包可以减少跨语言的污名化AI行为。
为了更根本的行动，构建医疗AI的公司可以在发布前将情境判断任务作为标准步骤实施预先发布的偏见审计。
出版详情
Xi Wang等人，大型语言模型在健康状况的情境判断中表现出污名化行为，Nature Health (2026)。DOI: 10.1038/s44360-026-00164-4
期刊信息：Nature Health
关键医学概念
乙肝、精神分裂症
临床类别
心理学与心理健康、预防医学、HIV与艾滋病
【全文结束】