人工智能在医疗保健领域可挽救生命并节省资金,但变革不会一蹴而就
亚特兰大——想象一下,你生病后走进医生诊室,医生不必翻查成页的病历,也不必安排需要数天才能出结果的检查,而是立即汇总你的健康记录、基因档案和可穿戴设备中的数据,帮助判断问题出在哪里。
这种快速诊断,是人工智能用于医疗保健的一大承诺。支持这项技术的人表示,在未来几十年里,AI 有潜力挽救数十万人、甚至数百万人的生命。
此外,2023 年的一项研究发现,如果医疗保健行业显著提高 AI 使用率,每年最多可节省 3600 亿美元。
然而,尽管人工智能几乎已无处不在,从智能手机到聊天机器人再到自动驾驶汽车都能见到它的身影,但它迄今为止对医疗保健的影响相对较小。
2024 年美国医学会的一项调查发现,66% 的美国医生曾在某种程度上使用过 AI 工具,高于 2023 年的 38%。但其中大多数用途属于行政事务或低风险支持。尽管 43% 的美国医疗保健组织在 2024 年新增或扩大了 AI 使用,但许多实施仍处于探索阶段,尤其是在医疗决策和诊断方面。
我是一名研究 AI 与医疗保健分析的教授和研究人员。我将尝试解释为什么 AI 的增长将是渐进的,以及技术限制和伦理担忧如何阻碍医疗行业广泛采用 AI。
诊断不准确与种族偏见
人工智能擅长在大型数据集中发现模式。在医学中,这些模式可能提示人类医生可能忽略的疾病早期迹象,也可能根据其他症状和背景相似患者的反应,指出最佳治疗方案。最终,这将带来更快、更准确的诊断和更个性化的护理。
AI 还可以通过分析工作流程、预测人员配置需求和安排手术,帮助医院更高效地运转,使手术室等宝贵资源得到最有效的利用。通过简化那些需要人类耗费数小时的任务,AI 可以让医疗专业人员把更多精力放在直接照护患者上。
但尽管 AI 能力强大,它也会犯错。虽然这些系统是用真实患者的数据训练的,但在遇到不寻常情况,或数据与眼前患者并不完全匹配时,它们可能难以应对。
因此,AI 并不总能给出准确诊断。这个问题被称为算法漂移,即 AI 系统在受控环境中表现良好,却在现实情境中失去准确性。
种族和族裔偏见是另一个问题。如果数据因某些种族或族裔群体患者数量不足而带有偏见,那么 AI 可能对他们给出不准确的建议,导致误诊。一些证据表明,这种情况已经发生。
数据共享担忧与不切实际的期望
医疗保健系统复杂得像迷宫。把人工智能整合进现有工作流程的前景令人望而生畏;引入 AI 这样的新技术会打乱日常流程。员工需要额外培训才能有效使用 AI 工具。许多医院、诊所和医生办公室根本没有时间、人员、资金或意愿来实施 AI。
此外,许多尖端 AI 系统以不透明的“黑箱”方式运行。它们给出建议,但即便是开发者也可能难以充分解释其原理。这种不透明性与医学需求相冲突,因为医疗决策需要可解释的理由。
但开发者往往不愿披露其专有算法或数据来源,既是为了保护知识产权,也是因为其复杂性难以提炼说明。缺乏透明度会加剧从业者的怀疑,进而拖慢监管审批,并削弱人们对 AI 输出的信任。许多专家认为,透明度不仅是一种伦理上的体面要求,也是在医疗保健环境中采用 AI 的实际必要条件。
还有隐私担忧;数据共享可能威胁患者机密。为了训练算法或作出预测,医疗 AI 系统往往需要大量患者数据。如果处理不当,AI 可能通过数据泄露或患者记录的非预期使用而暴露敏感健康信息。
例如,临床医生使用基于云端的 AI 助手起草记录时,必须确保任何未经授权者都无法访问该患者的数据。美国《健康保险携带和责任法案》(HIPAA)等法规对健康数据共享施加严格规则,这意味着 AI 开发者需要强有力的保障措施。
隐私担忧还延伸到患者信任:如果人们担心自己的医疗数据可能被算法滥用,他们可能不愿如实提供信息,甚至拒绝接受 AI 辅助的护理。
AI 的宏大承诺本身就是一道巨大障碍。人们的期望极高。AI 常被描绘成一种神奇解决方案,仿佛能诊断任何疾病,并在一夜之间彻底改变医疗保健行业。此类不切实际的假设往往导致失望。AI 可能不会立即兑现其承诺。
最后,开发一个运行良好的 AI 系统需要大量试错。AI 系统必须经过严格测试,以确保其安全有效。这需要数年时间,而且即便系统获批,在遇到新类型数据和现实情境时,仍可能需要调整。
渐进式变化
如今,医院正在迅速采用 AI 病历记录助手,这些工具在患者就诊时聆听,并自动起草临床记录,从而减少文书工作,让医生有更多时间陪伴患者。调查显示,目前超过 20% 的医生使用 AI 撰写病程记录或出院摘要。AI 也正在成为行政工作中的一股安静力量。医院部署 AI 聊天机器人来处理预约安排、分诊常见患者问题,并实时翻译语言。
AI 的临床用途确实存在,但更为有限。在一些医院,AI 是放射科医生寻找疾病早期迹象时的“第二双眼睛”。但医生仍不愿把决策交给机器;目前只有约 12% 的医生在诊断辅助方面依赖 AI。
可以说,医疗保健向 AI 的转型将是渐进的。新兴技术需要时间成熟,而医疗保健的短期需求仍压过长期收益。与此同时,AI 治疗数百万患者、节省数万亿美元的潜力仍在前方等待。
图尔盖·阿耶尔是佐治亚理工学院工业与系统工程学院教授。
The Conversation 是一家独立、非营利性的新闻、分析和评论来源,内容来自学术专家。

