长期以来，残疾人面临着系统性的医疗障碍，包括误诊、有限的医疗服务获取以及治疗决策中的偏见。现在，随着医学中人工智能（AI）的兴起，医疗专业人士担心这些不平等现象可能会加剧。
最近，Hackensack Meridian医学院的Charles E. Binkley博士、乔治敦大学医学院和医疗中心的Joel M. Reynolds博士以及密歇根大学医学院的Andrew G. Shuman博士在《自然医学》上发表了一封通信，强调了医疗AI对残疾人可能带来的危害和益处。
在接受《密歇根日报》采访时，担任Hackensack Meridian医学院AI伦理和质量主任的Binkley博士解释了训练AI识别患者身体和认知能力差异的重要性，此外还需考虑社会经济状况和保险覆盖范围。
“这些模型最适合应用于典型患者，”Binkley说，“而那些不符合我们所认为典型的患者是我所担忧的对象。作为医生、伦理学家和临床AI工作者，我的职责是思考潜在的不良影响，并提前尝试缓解这些问题。”
由于AI模型依赖于历史临床数据，研究人员声称这些模型往往会强化现有的社会和临床偏见。由于残疾人在整体患者群体中占比较小，AI训练数据集可能导致残疾人代表性不足。Binkley认为，收集包容性和代表性数据可以帮助AI模型生成独特的解决方案，更好地帮助来自代表性不足的人群。
“大多数人会遵循常见的疾病轨迹，但也可能存在亚型，”Binkley说，“传统上，医生会认为这些亚型的原因是患者的依从性差或有更好的资源获取途径，但这可能只是部分原因。实际上，可能只是不同的表现形式。我认为AI模型的目标不仅是检测某种情况，而是尝试预测其发生，并尽早加以缓解。”
Binkley强调了在开发医疗AI系统时融入实际经验的重要性，以促进包容性并增强AI提供个性化治疗建议的能力。
“我们需要思考如何使用数据，确保我们构建特定模型或认识到基因表达和表型的多样性，”Binkley说，“这是生物学和社会、环境、表观遗传学之间的相互作用。这就是异质性所在。我们必须意识到这种异质性和表现形式，并找出它们与其他表现形式的不同之处。”
密歇根大学文理学院三年级学生Pooja Kannappan目前正在进行一个研究项目，旨在收集残疾人对自动驾驶汽车无障碍设计的意见。Kannappan在给《密歇根日报》的电子邮件中呼应了Binkley关于认识异质性的呼吁。Kannappan强调，包容性AI设计可以帮助防止“残疾辅助设备效应”，即技术往往是为了解决想象中残疾人面临的问题而创建的，但这些“解决方案”并未真正满足目标用户的需求。
“这些技术通常出于善意，但在设计过程中未包括残疾人，导致这些‘解决方案’无法真正解决残疾人的真实需求，”Kannappan写道。
运动科学三年级学生Ruthie Price对与残疾人合作并改善他们的生活质量感兴趣。她在给《密歇根日报》的电子邮件中指出，尽管AI不断发展以满足残疾患者不断变化的需求，但它仍未能充分支持这些个体。
“这篇文章很好地提到，残疾人应被纳入有关医疗AI发展的对话中，”Price写道，“因此，AI可以成为任何提供者或护理者的有力伙伴。我用‘伙伴’这个词是因为我认为AI目前还没有能力完全理解如何与这些个体合作。”
为了改进AI模型并使患者受益更多，Kannappan认为大学和研究机构应优先将残疾人纳入AI研究项目。
“虽然由AI驱动的医疗系统有可能改善健康结果，但也存在延续对未在训练数据中充分代表的弱势群体有害刻板印象的风险，”Kannappan说，“有意资助更多以残疾人为中心的研究项目，并在创建旨在帮助他们的工具时整合更多残疾人的声音，将是解决无障碍问题的积极方式。”
(全文结束)
