想象一下你走进医生办公室时感觉身体不适——医生不再翻阅你的病历或进行需要几天时间的检查，而是立即调取你的健康记录、基因信息和可穿戴设备数据，以帮助判断你哪里出了问题。
这种快速诊断正是人工智能在医疗保健领域的一大承诺。该技术的支持者表示，在未来几十年，人工智能有可能拯救数十万甚至数百万人的生命。
此外，一项2023年的研究发现，如果医疗行业大幅增加人工智能的使用，每年最多可节省3600亿美元。
然而，尽管人工智能已几乎无处不在，从智能手机、聊天机器人到自动驾驶汽车，它对医疗保健的影响至今仍相对有限。
2024年美国医学会的一项调查显示，66%的美国医生曾在某种程度上使用过人工智能工具，高于2023年的38%。但其中大部分用于行政或低风险的支持工作。尽管2024年有43%的美国医疗机构增加了或扩展了人工智能的使用，但许多应用仍处于探索阶段，特别是在医疗决策和诊断方面。
我是一名研究人工智能和医疗数据分析的教授和研究人员。我将尝试解释为什么人工智能的发展将是渐进的，以及技术限制和伦理问题如何阻碍了医疗行业对人工智能的广泛采用。
诊断不准确，种族偏见
人工智能在分析大量数据中寻找模式方面表现出色。在医学领域，这些模式可能预示着早期疾病的迹象，这是人类医生可能忽略的信号——或者可以根据其他具有相似症状和背景的患者反应，指出最佳的治疗方案。最终，这将带来更快、更准确的诊断和更个性化的护理。
人工智能还可以帮助医院更高效地运行。通过分析工作流程、预测人员需求并合理安排手术时间，使诸如手术室等宝贵资源得到最有效的利用。通过简化原本需要数小时人工完成的任务，人工智能可以让医疗专业人员更专注于直接的患者护理。
但尽管人工智能功能强大，它也会犯错。虽然这些系统是基于真实患者的数据进行训练的，但当遇到不寻常的情况或数据与当前患者不完全匹配时，它们可能会表现不佳。
因此，人工智能并不总是能做出准确的诊断。这个问题被称为算法漂移——即人工智能系统在受控环境中表现良好，但在现实世界中却失去准确性。
种族和族裔偏见是另一个问题。如果训练数据存在偏见，因为它没有包含足够多某些种族或族裔群体的患者，那么人工智能可能会为这些群体提供不准确的建议，导致误诊。已有证据表明这种情况已经发生。
数据共享问题，不切实际的期望
医疗系统的复杂程度令人望而生畏。将人工智能整合到现有流程中是一项艰巨的任务；引入像人工智能这样的新技术会打乱日常运作。工作人员需要额外的培训才能有效使用人工智能工具。许多医院、诊所和医生办公室根本没有时间、人员、资金或意愿去实施人工智能。
此外，许多前沿的人工智能系统运作方式像一个不透明的“黑箱”。它们会输出建议，但即使是开发人员也可能难以完全解释其背后的机制。这种不透明性与医学的需求相冲突，因为医学决策需要明确的理由。
但开发者往往不愿意透露他们的专有算法或数据来源，这既是为了保护知识产权，也是因为其复杂性难以简明扼要地解释。缺乏透明度加剧了从业者的怀疑，进而减缓了监管审批进程，并削弱了人们对人工智能输出结果的信任。许多专家认为，透明性不仅是伦理上的要求，更是医疗环境中采用人工智能的实际必要条件。
还有隐私方面的担忧；数据共享可能会威胁患者保密。为了训练算法或做出预测，医疗人工智能系统通常需要大量的患者数据。如果处理不当，人工智能可能会泄露敏感的健康信息，无论是通过数据泄露还是患者记录的非预期使用。
例如，医生使用基于云的人工智能助手来撰写病历时，必须确保未经授权的第三方无法访问该患者的数据。美国《健康保险可携性和责任法案》（HIPAA）对健康数据的共享有严格规定，这意味着人工智能开发者需要建立强大的保护措施。
隐私问题还延伸到患者的信任：如果人们担心自己的医疗数据可能被算法滥用，他们可能会更不愿意透露信息，甚至拒绝接受人工智能引导的护理。
人工智能的宏大承诺本身就是一个巨大的障碍。人们的期望非常高。人工智能经常被描绘成一种神奇的解决方案，可以一夜之间诊断任何疾病并彻底改变医疗保健行业。像这样的不切实际的假设往往会导致失望。人工智能可能不会立即兑现其承诺。
最后，开发一个运行良好的人工智能系统涉及大量试验和错误。人工智能系统必须经过严格的测试，以确保其安全有效。这需要数年时间，即使系统获得批准后，当它遇到新的数据类型和现实情况时，可能还需要进行调整。
渐进式变革
目前，医院正在迅速采用人工智能助手，它们在患者就诊时倾听并自动生成临床笔记，从而减少文书工作，让医生有更多时间陪伴患者。调查显示，现在已有超过20%的医生使用人工智能撰写病程记录或出院摘要。人工智能在行政工作中也正悄然发挥影响力。医院部署人工智能聊天机器人来处理预约安排、筛选常见患者问题，并实时翻译语言。
人工智能在临床中的应用存在，但相对有限。一些医院中，人工智能作为放射科医生的第二双眼睛，帮助发现疾病的早期迹象。但医生们仍不愿意将决策权交给机器；目前只有约12%的医生依赖人工智能进行诊断帮助。
总而言之，医疗保健行业向人工智能的过渡将是渐进式的。新兴技术需要时间成熟，而医疗行业的短期需求仍重于长期收益。与此同时，人工智能治疗数百万患者并节省数万亿资金的潜力仍在等待实现。
Turgay Ayer 是佐治亚理工学院工业与系统工程教授。
The Conversation 是一个独立且非营利的新闻、分析和评论来源，由学术专家提供。
【全文结束】
