近年来，越来越多的人开始向聊天机器人询问当他们感到不适、出现奇怪症状或需要快速解释健康问题时该怎么做。正因为如此，最近的一项实验应该引起人们深思：研究人员发明了一种不存在的疾病，而多个AI系统开始将其视为真实疾病。
这种虚构的疾病被命名为"bixonimania"，它是故意创建的，目的是测试人工智能模型有多容易被欺骗。研究人员在预印本平台上发布了两篇虚假论文，即在正式科学评估之前发布的研究。但这些文本不仅是假的，还包含明显的迹象表明这是一场恶作剧。
对人类明显是个笑话，但对AI却不是
在这些论文中出现了不存在的作者、虚构的大学以及对虚构人物和机构的荒谬致谢。其中包括"Starfleet Academy"（星际舰队学院）、"USS Enterprise"（企业号飞船）上的实验室或据说来自"University of Fellowship of the Ring"（魔戒学院）的资助。换句话说，对于细心的读者来说，到处都是警示信号。
然而，仅仅几周内，一些流行的聊天机器人就开始将"bixonimania"当作真实疾病来讨论。有些甚至提供了关于病因、症状和患病率的解释。这意味着人工智能不仅吞下了虚假信息，还将其包装成对普通用户看起来可信的形式。
问题不仅限于聊天机器人
更令人不安的是，这种发明的疾病并没有停留在AI的回应中。其中一篇虚假论文被引用在一本经过评审的科学期刊上发表的文章中，该材料后来才被撤回。这一案例表明，问题不仅在于聊天机器人层面，还在于一些研究人员或作者似乎在使用参考文献时没有真正核实。
据《自然》杂志发表的一项分析显示，该实验表明当虚假信息被包装在学术和医学语言中时，它传播得有多容易。另一项关于医学错误信息和语言模型的研究表明，当虚假信息以专业和权威的形式呈现时，AI更容易相信这些信息。
简而言之，"bixonimania"案例不仅仅是一个关于虚构疾病的奇怪故事。它是一个严重警告，说明信息链如何快速被污染——从伪科学文本到AI，再到用户，甚至回到学术文献。当主题是健康时，这种疏忽的代价可能会变得太大。
【全文结束】
