医疗领域的人工智能前景一直显得直观而诱人。一个能够处理大量患者数据、交叉比对症状并在几秒钟内做出响应的系统，似乎是解决医生短缺和护理需求激增的天然方案。
这一前景最明显的体现之一，是临床环境中AI聊天机器人和虚拟助手的普及。这些工具旨在对症状进行分诊、回答患者问题，并引导个人走向适当的护理路径。大型语言模型（LLMs）的最新进展似乎正在将这一愿景变为现实，相关系统在医学考试和结构化诊断任务中展现出惊人的表现。
理论上，AI驱动的聊天界面为医生短缺和医疗服务需求增长提供了一个可扩展的解决方案。然而在实践中，它们的效果参差不齐。本周《金融时报》的一份报告显示，尽管聊天机器人能够胜任常规查询和行政互动，但它们提供临床可靠指导的能力仍然有限——特别是在输入不完整、模糊或不断变化的情况下。
一个瑞典研究团队试图精确测量这种局限性。他们发明了一种虚构的眼部疾病——"bixonimania"，并将其引入AI生态系统，以测试聊天机器人吸收和传播医疗错误信息的容易程度。
"我想向任何医生或医疗人员明确说明，这是一种虚构的疾病，因为没有任何眼部疾病会被称为'mania'——这是精神科术语，"一位研究人员解释道。
这项于上周二（4月7日）发表的实验显示，这种虚构疾病在聊天机器人中甚至其他学术论文中传播得过于容易。这些研究（包括真实的和虚假的）此后已被撤下。
准确性不等于医疗判断
尽管围绕医疗AI的宏大叙事集中在临床突破上，例如能够更早检测癌症、预测疾病轨迹或以前所未有的精确度帮助个性化治疗计划的算法，但广泛、可衡量的患者结果改善仍然难以捉摸。
如果AI聊天机器人的局限性纯粹是技术性的，那么它们可能更容易管理。但更紧迫的担忧是行为方面的。当用户与AI系统互动时，他们倾向于将输出视为权威，即使这些输出是基于不完整或有缺陷的输入生成的。对症状的误解、过于谨慎的建议或不一致的建议可能会削弱信任，在某些情况下，还会给必须验证或纠正AI生成输出的人类临床医生带来额外负担。
在看医生前咨询AI工具的患者可能会收到看似合理但不正确的诊断。最初的建议可能会影响症状的描述方式、强调的关注点，以及最终临床医生如何解释病例。结果不仅仅是错误的答案，而是一个被扭曲的诊断过程。
这种现象被称为锚定偏见，在临床环境中早已被认识。AI有可能大规模放大这种效应。
PYMNTS今年早些时候与密歇根医学中心（Michigan Medicine）前CEO Marschall Runge进行对话，探讨了AI在医疗领域的崛起。密歇根医学中心是美国顶尖的学术医疗中心之一。
他向PYMNTS首席执行官Karen Webster讲述了在临床环境中使用该技术的前景与风险。
"AI的思考范围很广，"他说。它能够同时跟踪患者的年龄、药物和潜在疾病，建立连接，而这些可能是日程紧张、处理大量病例的医生所错过的。Runge表示，他见过AI发现训练有素的临床医生最初没有考虑的诊断可能性。但他强调，风险是真实存在的，如过度依赖和错误自信。
据PYMNTS报道，全球超过4000万人每天使用ChatGPT进行与健康相关的查询，其中约70%发生在诊所营业时间之外。
自动化接管医疗领域
如果AI的临床前景仍在成熟中，那么它在行政领域的主导地位已经势不可挡。医疗行业历史上一直受到复杂工作流程、分散的数据系统和劳动密集型流程的困扰。AI恰恰在这些环境中蓬勃发展。
毕竟，AI聊天机器人远非医疗AI的全部图景。医疗系统、保险公司和数字健康初创公司正以惊人的速度部署AI工具，不仅用于治疗疾病或改善床边护理，还用于简化医疗业务本身。
PYMNTS上周报道了数字医疗初创公司的融资达到今年第一季度的创纪录水平。从自动化计费到优化患者接收和分诊，AI正在重塑医疗组织的财务和行政运作方式，而不仅仅是患者与护理互动的方式。
例如，Adonis是一家为医疗收入周期管理提供AI编排平台的公司，最近筹集了4000万美元；犹他州监管机构已批准Y Combinator支持的Legion Health让其AI在无需医生每次签字的情况下续开某些精神科处方。
PYMNTS在另一份近期报告中写道，AI也正迅速进入价值数十亿美元的医疗支付领域的财务机制。
"UnitedHealth Group预计AI将在2026年为其节省近10亿美元，而HCA Healthcare预计通过AI驱动的成本节约约为4亿美元，部分来自收入管理的自动化，"PYMNTS写道。"另一方面，Blue Cross Blue Shield发布的一项分析表明，AI支持的编码实践可能导致全国范围内额外增加20多亿美元的索赔支出。"
处于持续财务压力下的医疗机构自然会被能提供即时、可衡量回报的解决方案所吸引。AI驱动的自动化完美地满足了这一需求。它降低了成本，提高了利润，并解决了人员短缺问题，而无需对临床工作流程进行根本性改变。
相比之下，临床创新更慢、风险更高，也更难量化。证明AI工具真正改善患者结果需要严格的测试、长期研究和监管批准。尽管潜在回报可能是变革性的，但这种回报更不即时，也更不确定。
【全文结束】
