AI聊天机器人推广虚构眼疾并向大众传播AI chatbots fronted a fake eye disease and told everyone about it | Mind Matters

环球医讯 / AI与医疗健康来源:mindmatters.ai美国 - 英语2026-06-13 23:07:48 - 阅读时长3分钟 - 1175字
瑞典哥德堡大学医学研究员阿尔米拉·奥斯马诺维奇·通斯特伦在2024年进行了一项实验,她创造了一种名为"bixonimania"的虚构眼疾并发布虚假研究,测试AI是否会传播医疗错误信息。结果令人震惊,主要AI系统迅速将这种不存在的疾病当作真实病症推广,甚至建议患者就医。研究显示,AI聊天机器人在医疗问题上约50%的回答"有问题",20%的回答"高度有问题",凸显了AI在医疗健康领域应用的风险与局限性,警示我们不应盲目相信AI在医疗保健领域的建议。
Bixonimania虚构眼疾虚假医疗信息AI健康信息传播AI医疗误导医疗信息真实性
AI聊天机器人推广虚构眼疾并向大众传播

"Bixonimania"。据《自然》杂志报道:

这是由瑞典哥德堡大学医学研究员阿尔米拉·奥斯马诺维奇·通斯特伦(Almira Osmanovic Thunström)领导的团队发明的。她在2024年初构想出这种皮肤病,并将两篇关于它的虚假研究上传至预印本服务器。奥斯马诺维奇·通斯特伦进行这项不寻常的实验是为了测试大型语言模型(LLMs)是否会接受这些错误信息,然后将其作为可靠的健康建议传播出去。她说:"我想看看是否能创建一种数据库中不存在的医疗状况。"

然而问题在于,实验效果出乎意料地好。在她上传了归因于虚构作者的疾病信息后几周内,主要的人工智能系统就开始将这种虚构的疾病当作真实情况重复传播。

克里斯·斯托克尔-沃克(Chris Stokel-Walker)在《科学家发明了虚假疾病。AI告诉人们它是真实的》一文中写道,2026年4月7日。

ChatGPT诊断了4000万人患有一种作为玩笑发明的疾病。

这不是一种真实疾病。不是一种被误解的疾病。而是一种完全虚构的病症,有假名字、假论文和假统计数据。

它还告诉患者去看专科医生。

这种疾病被称为...

警示信号其实非常明显:

  • 虚构的主要作者据称在不存在的"加利福尼亚新城市"的"Asteria Horizon University"工作。
  • 致谢部分感谢了"USS企业号上的星际舰队学院的Maria Bohm教授",资金归功于"小丑Professor Sideshow Bob基金会"在高级骗术方面的工作。
  • 论文甚至直白地声明"整篇论文都是编造的"。
  • 通斯特伦特意选择了bixonimania这个名字。后缀"-mania"专用于精神病学,因此没有合法的眼部疾病会使用这个标签。

安杰丽娜·沃克(Angelina Walker)在《"Bixonimania"是一种虚假疾病——但ChatGPT诊断了数千人,其他AI也一样》一文中指出,2026年4月10日,发表于《护士》杂志。

苏珊·A·诺兰(Susan A. Nolan)博士和迈克尔·金博尔(Michael Kimball)在《今日心理学》中表示,这个问题并不仅限于虚构疾病:

"AI在医学领域不准确的问题有多严重?研究人员最近向五个AI聊天机器人提出了来自各种医学领域的10个问题(Tiller等,2026)。聊天机器人约一半时间产生'有问题'的回应,约20%的回应是'高度有问题'的。"——《你有Bixonimania吗?》,2026年5月15日。

当我们听到评论员赞扬AI在医疗保健中的奇迹时,我们应该牢记这一点。

【全文结束】