初诊请找"聊天机器人医生"Künstliche Intelligenz: Zum Erstgespräch bei „Dr. Chatbot“ - science.ORF.at

环球医讯 / AI与医疗健康来源:science.orf.at奥地利 - 德语2026-05-17 11:01:04 - 阅读时长3分钟 - 1304字
一项发表在《英国医学杂志》的最新研究显示,50%的AI健康咨询回答存在质量问题,其中30%被评为"较为有问题",20%甚至被评为"高度有问题"。研究团队测试了Google Gemini、DeepSeek、Meta AI、ChatGPT和Grok五种主流聊天机器人,发现它们在癌症和疫苗领域表现相对较好,但在干细胞治疗、营养和运动表现方面问题较多。专家指出,虽然聊天机器人填补了医疗体系的空缺,特别是在心理健康、性健康等敏感话题上具有低门槛优势,但也存在信息不准确和数据隐私风险,公众需要提高对AI医疗咨询局限性的认识,避免因错误信息导致无效或有害的治疗选择。
AI聊天机器人健康咨询医疗信息准确性敏感健康话题个人数据安全医疗体系空缺初诊健康评估
初诊请找"聊天机器人医生"

如今,许多人在健康问题上首先会咨询人工智能(AI)。ChatGPT和Google Gemini等语言模型填补了医疗体系的空缺,但其提供的信息质量仍有待提高。

一项今天发表在《英国医学杂志》的研究表明,半数关于健康问题的AI咨询回答应被视为存在问题,其中大部分回答不准确且不完整。研究团队向五种常见的AI聊天机器人各提出了50个问题,包括:哪些食物会导致癌症?帕金森病的干细胞治疗费用是多少?以及:新冠疫苗接种是否安全?测试的五款应用分别是Google Gemini、DeepSeek、Meta AI、ChatGPT和Grok。

综合来看,这五款聊天机器人的回答质量没有显著差异。30%的回答被研究人员评为"较为有问题",另有20%甚至被评为"高度有问题"——例如,这些回答可能引导人们采取无效甚至有害的治疗方法。在癌症和疫苗这两个主题领域,AI的表现总体上比在干细胞治疗、营养以及运动表现方面要好。

内容缺陷的一个原因是,聊天机器人也从在线论坛和社交网络获取信息。它们通常只能访问开放获取的研究成果,而无需付费墙的研究仅占已发表研究的一部分——大多数科学出版物需要付费才能获取。

Dr. Chatbot取代Dr. Google

尽管如此,聊天机器人正变得越来越受欢迎,尤其是在症状初步评估或一般健康问题方面——一项德国调查显示,45%的受访者会这样做。美因茨约翰内斯·古腾堡大学的传播学专家埃莱娜·林克(Elena Link)表示:"我认为聊天机器人最终会取代搜索引擎提问。之前会谷歌搜索、必应搜索等的同一目标群体,现在会决定:聊天机器人是否适合我?"

林克表示:"我们需要更多关于聊天机器人在哪些问题上能很好地工作,以及在哪些问题上不能提供适当解决方案的教育。我认为,对于'解释我之前不理解的检查结果'这类查询,聊天机器人具有巨大潜力,因为否则可能会产生严重误解,进而导致例如不遵守后续治疗计划等风险。"然而,在诊断制定方面,她看到了"巨大问题"。

敏感话题的低门槛优势

尽管聊天机器人的回答有时不够准确,但在诊所和医院病房人员不足的时代,它们在某种程度上填补了医疗体系的空缺。人工智能全天候可用,即使在问诊时间之外,也完全无需等待。而且它几乎支持所有语言。

勃兰登堡医科大学医疗保健研究中心的菲利克斯·默伦西彭(Felix Mühlensiepen)认为,匿名AI查询的低门槛也起着重要作用:"特别是当涉及心理健康、性健康或成瘾等敏感话题时,向聊天机器人咨询可能感觉比向真实的人咨询更容易。"

数据困境

公共卫生专家同时指出,这些"信息可能更加敏感,且可能未得到保护"。传播学专家林克表示,在保护个人数据方面存在"困境":"我在提示中提供的信息越精确,聊天机器人的回答就越能为我个性化。如果上传自己的病史,例如详细说明自己的治疗状况,那么'回答更可能合适。但同时,你也泄露了很多可能被追溯到你身上的信息。'"

【全文结束】