尽管人们越来越习惯于由AI驱动的个人助手、客户服务聊天机器人甚至财务顾问，但在医疗保健方面，大多数人仍然希望有人类的参与。鉴于接受医疗保健是一种非常个人化的体验，患者更倾向于从一个“人”那里获得医疗服务是可以理解的。但随着AI在提高医疗质量、效率和效果方面的巨大潜力，推动公众对AI驱动医疗的更大接受度可能会为患者和提供者带来好处。那么，行业如何帮助公众对医疗AI感到更加舒适呢？根据Lehigh大学和Seattle大学研究人员的一项新研究，使偏见概念更加显著可以有所帮助。
研究探讨“偏见显著性”
该研究发表在《Computers in Human Behavior》杂志上，发现当患者被提醒到人类医疗决策中固有的偏见时，他们对AI医疗建议的接受度更高。这种“偏见显著性”，即让人们更加意识到决策中的偏见，被证明可以改变人们的看法。
“这种对AI的更高接受度是因为偏见被认为是人类的根本缺陷，”Lehigh商学院营销学副教授Rebecca J. H. Wang说。“因此，当偏见的概念变得显著时，人们对AI完整性的感知——定义为相对于人类同行的公平性和可信度——会得到增强。”
该研究包括六项实验，近1900名参与者，结果显示，当参与者被提醒到人类的偏见——例如，医疗服务提供者可能基于性别等特征对患者进行不同对待——他们对AI建议的接受度更高。参与者被呈现了一些情景，如寻求冠状动脉旁路手术或皮肤癌筛查的建议，然后被问及他们更希望这些建议是由人类还是计算机/AI助手提供的。
在呈现情景之前，一些参与者被展示了旨在增加偏见显著性的屏幕。这些干预措施包括审查突出常见认知偏见的信息图、描述自己曾因偏见而受到负面影响的经历，包括50岁以上人群的年龄相关偏见和性别相关偏见。结果表明：
- 当参与者意识到人类医疗决策中潜在的偏见时，他们认为AI具有更高的“完整性”，即他们认为AI更公平、更可信。
- 尽管偏见显著性并未消除人们对人类医疗的一般偏好，但高偏见显著性减少了对医疗AI的抵触情绪，这可能是因为偏见更容易与人类联系在一起。
- 在没有偏见显著性的情况下，人类提供者的主观性通常被视为积极因素，但当偏见显著性高时，患者更重视AI的客观性。
AI在医学的未来
作者强调，在AI普及的所有阶段，从开发到采用，都应时刻关注人类偏见。AI系统的开发者应努力减少训练医疗AI材料中固有的偏见——这是当前AI系统开发中的已知问题——并在用户遇到AI时提供关于人类偏见的背景信息。这样做可以帮助提供者利用AI在诊断、治疗建议和患者监测等应用中的日益增长的作用。预计到2029年，行业每年将投资超过300亿美元用于AI医疗。
“通过解决患者对AI的担忧并强调人类判断的局限性，医疗服务提供者可以建立患者与新兴技术之间更加平衡和信任的关系，”Wang说。
来源：Lehigh University
期刊参考：Isaac, M. S., et al. (2024) To err is human: Bias salience can help overcome resistance to medical AI. Computers in Human Behavior. doi.org/10.1016/j.chb.2024.108402.
(全文结束)
