谷歌近期失误警示AI生成医疗信息风险Google's Recent Misstep Is a Warning for AI-Generated Medical Info

环球医讯 / AI与医疗健康来源:www.inc.com英国 - 英语2026-01-13 16:14:35 - 阅读时长2分钟 - 902字
谷歌因AI医疗信息不准确而移除部分搜索查询的AI概览功能,此前《卫报》调查发现其对肝功能测试范围、胰腺癌饮食建议及巴氏涂片用途等关键医疗问题的回答存在严重上下文缺失甚至错误,可能直接威胁患者健康;英国肝脏信托基金指出谷歌仅屏蔽个别搜索结果却未解决健康领域AI概览的根本缺陷,同时Anthropic正加速进军医疗AI市场,专家警告生成式AI在医疗应用中若缺乏专业临床背景支持,可能因片面信息导致患者采取危险行为,凸显医疗健康领域AI信息审核的紧迫性。
AI生成医疗信息风险谷歌AI医疗失误Anthropic医疗AI肝功能测试胰腺癌巴氏涂片医疗信息准确性患者健康风险AI概览功能权威信息来源
谷歌近期失误警示AI生成医疗信息风险

谷歌因AI医疗信息问题陷入困境,与此同时,Anthropic正加速进军医疗保健领域的AI应用。

《卫报》调查发现,谷歌对从胰腺癌到肝病等各类问题的回答存在脱离上下文甚至错误的情况,这些内容可能威胁患者健康,因此谷歌已移除部分医疗搜索查询的AI响应功能。据《卫报》报道,谷歌具体屏蔽了"肝功能测试的正常范围是什么"和"肝功能测试参考值范围是什么"等搜索词的AI概览功能。然而,科技媒体TechCrunch发现,"lft参考范围"或"lft测试参考范围"等相关搜索仍会触发AI响应(LFT代表"肝功能测试")。

英国肝脏信托基金的传播与政策总监向《卫报》表示:"我们更担忧的是,谷歌仅对单个搜索结果吹毛求疵并屏蔽AI概览功能,却未解决健康领域AI概览的根本问题。"

该媒体1月初发布的原始调查指出,关于肝功能测试的查询结果返回了大量数字,却未提供充分的上下文以考虑患者年龄、性别或种族等关键因素。同样,关于胰腺癌的搜索建议患者避免高脂肪食物,但一位专业人士告诉《卫报》,这种说法"完全错误",可能导致患者在治疗期间因减重而危及健康。另一项搜索错误地将巴氏涂片描述为阴道癌检测手段,事实上,根据梅奥诊所的说明,该测试主要用于筛查可能提示宫颈癌的异常情况。

癌症慈善机构Eve Appeal的首席执行官向《卫报》表示:"我们看到的部分结果令人极度担忧,可能将女性置于危险境地。"

谷歌发言人发表声明称:"我们对AI概览的质量投入了大量资源,尤其是健康等领域的信息,绝大多数内容都准确无误。"该发言人补充道,"我们的内部临床团队审查了已分享的内容,发现许多情况下信息并无错误,且得到了高质量网站的支持。当AI概览缺失部分上下文时,我们会进行广泛改进,并在适当情况下依据政策采取行动。"谷歌发言人还表示,《卫报》分享的部分案例信息不完整,无法充分评估,而在多个具体实例中,AI概览引用了权威信息来源。

【全文结束】

大健康
大健康