人类专家揭示AI"医生"出错的频率Here's how often AI ‘doctors’ get things wrong, according to human experts

环球医讯 / AI与医疗健康来源:www.yahoo.com美国 - 英语2026-07-20 00:25:36 - 阅读时长4分钟 - 1749字
宾夕法尼亚州立大学最新研究显示,AI"医生"回答健康问题的准确率约为76%,其中ChatGPT表现最佳。研究发现AI在常规医疗咨询中表现良好,但在皮肤科和心理健康领域存在明显不足。尽管AI可为全球50%缺乏医疗资源的人群提供帮助,但专家警告公众切勿依赖AI进行自我诊断。调查显示,14%的美国人曾因AI建议放弃就医,相当于约1400万人,凸显了过度依赖技术可能带来的健康风险,也反映出医疗资源分配不均的现实问题。
AI医生ChatGPT健康问题医疗咨询自我诊断心理健康皮肤科医疗保健准确率
人类专家揭示AI"医生"出错的频率

简要概述

  • 宾夕法尼亚州立大学领导的一项研究发现,AI聊天机器人(以ChatGPT为首)准确回答健康相关问题的频率约为76%。
  • 虽然AI在常规健康咨询和一般医疗问题上表现最佳,但在心理健康和皮肤科方面表现不佳。
  • 尽管研究人员指出AI可能是缺乏适当医疗保健人群的宝贵资源,但他们警告不要将其用于自我诊断。

人工智能驱动的聊天机器人(如ChatGPT)能够准确回答约四分之三的健康相关问题,这是宾夕法尼亚州立大学的一项新研究发现,该发现既突显了使用AI进行医疗指导的潜力,也揭示了其局限性。

由宾夕法尼亚州立大学副教授兼研究员阿穆利亚·亚达夫(Amulya Yadav)领导的一个团队招募参与者向ChatGPT等各类AI系统提交了200多个健康相关症状描述和医疗问题。随后,九位认证医师对这些回答的准确性和可靠性进行了评估。

AI"医生"的准确率为76%

数据表明

研究发现,大型语言模型(LLMs)在回答用户提交的健康问题时,平均准确率约为76%。在分析中包含的大型语言模型中,ChatGPT的表现优于其他模型。

总体而言,AI系统在回答健康相关问题时的表现明显优于Google和Bing等传统搜索引擎。

"我惊讶于它们[LLMs]的表现竟然这么好。但当然,我认为我们都应该非常警惕,不要盲目相信语言模型输出的任何内容,因为它基本上是一个随机令牌生成器,"亚达夫在接受美联社采访时表示。

研究结果将于本周在蒙特利尔举行的2026年ACM计算公平性、问责制和透明度会议(FAccT)上公布。

AI表现最佳与最差的领域

深入分析

研究还确定了AI表现较差的几个领域。与皮肤科、心理健康和内科相关的问题通常获得的准确率较低。

皮肤科问题通常需要图像分析,这是AI系统目前能力较弱的领域,相比处理文本信息而言。心理健康问题也带来挑战,因为它们需要细致的判断。

相比之下,AI在更常规的健康咨询上表现最佳,包括常见疾病和一般医疗问题。

AI成为无医可寻人群的资源

根据世界卫生组织的数据,超过50%的世界人口无法获得适当的医疗保健和全面覆盖。

亚达夫表示,虽然能够接触到医生的普通人不应该放弃医生而转向AI医生,但它可以成为全球没有医生可寻人群的重要资源。

"这对那半数无法接触医生的人口来说似乎是一件好事,对吧?所以这是一个角度,"亚达夫说,但警告称"目前大型语言模型的准确性不如人类医生,因此我们不应该,或者说我们应该非常谨慎。这是我们向公众传达的信息:在使用大型语言模型进行自我诊断时应该非常谨慎。"

越来越多的人继续转向AI

大局观

这些发现出现在越来越多的人转向AI工具获取信息的背景下,而这些信息传统上是从医疗保健提供者或在线搜索中获取的。

事实上,最近的一项盖洛普民意调查显示,近一半的美国人,AI在他们的医疗决策中扮演某种角色。

在大多数情况下,AI的角色是补充其他医疗建议,或作为获取快速答案的方式。然而,在某些情况下,AI被完全用作替代前往医生办公室的工具。

超过70%的受访者告诉民意调查人员,他们在过去30天内以某种目的使用过AI;然而,给出的原因各不相同。对大多数人来说,原因归结为更快地获得答案或想要了解更多关于他们的医疗保健的信息。超过一半的人还表示,他们想在看医生之前或之后进行研究。

14%的受访者声称,由于AI提供的信息,他们跳过了看医生的行程。盖洛普指出,这相当于估计有1400万人因为AI建议或信息而放弃了与医疗专业人员的会面。

在前30天使用过AI的超过40%的人声称他们不想支付或无法支付医生的就诊费用。其他人表示他们需要在营业时间之外获得帮助,或者没有时间预约,而21%的人表示他们过去曾感到被医疗服务提供者忽视或不被理睬。

"我的担忧更多是关于那些能够并且确实有医疗保健渠道的人。我们真的想走这条路吗,仅仅因为LLMs能够回答,就消除对人类医生的需求?我们应该让他们在那里回答吗?这个老话——只要你有一把锤子,并不意味着所有东西都必须是钉子,"亚达夫补充道。

消息来源

本报道来自洛杉矶。美联社校园洞察和此前的FOX Local报道提供了支持。

【全文结束】