在第一次世界大战期间，英国政府一直在寻找方法帮助民众节省有限的食物供应。他们发现了一位19世纪著名草药医生的小册子，其中提到大黄叶可以和叶柄一起作为蔬菜食用。
于是，政府也印制了自己的小册子，建议民众将大黄叶当作沙拉食用，而不是扔掉。但有一个问题：大黄叶可能有毒。据报道，有人因此死亡或生病。
这一建议随后被更正，小册子也被回收。但在第二次世界大战期间，政府再次寻找节省食物供应的方法。
他们发现了上一次战争期间积压的旧资料，其中介绍了非传统的食物来源，包括大黄叶。重复使用这些小册子似乎很高效，于是它们又被分发给了公众。据报道，再次有人因此死亡或生病。
这些宣传册是错误信息，但民众在两次事件中都没有理由怀疑它们。它们是政府开发的官方资源——怎么会不安全呢？
这就是错误信息即使在最初的错误被纠正后，依然可能引发问题的原因。而这个故事的教训，在生成式人工智能（AI）时代依然回响。
聊天机器人不是搜索引擎
生成式AI用于根据其摄入的原始信息生成文本和图像（以及其他形式的数据）。但它也可能成为比人类生产安全信息（更不用说事实核查和纠正）更快地制造错误信息的引擎。
正如大黄的故事所示，纠正措施并不总能完全消除最初的污染。
ChatGPT 和 Claude 等AI平台的工作方式与传统搜索引擎不同。但人们却把它们当作搜索引擎来使用，因为它们似乎能快速总结复杂主题，并且比传统互联网搜索所需的点击次数更少。
搜索引擎依赖于关于某个主题的文章和文本，然后评估这些文章的可靠性。而生成式AI则依赖于庞大的文本库，从中衡量词语出现在彼此相邻位置的概率。
这些“大语言模型”纯粹是为了生成看起来合理的句子，而不是准确的句子。
例如，如果“绿鸡蛋和火腿”在其庞大的词汇库中出现的频率足够高，那么当有人问起时，它就更有可能将“鸡蛋和火腿”描述为绿色。
“看似合理却错误”
开发ChatGPT的OpenAI公司已经承认（基于其自身研究），由于生成式AI的工作原理，无法阻止虚假信息被当作真相呈现。在解释大语言模型为何会“产生幻觉”时，研究人员写道：
“就像面对困难考试题的学生一样，大语言模型在不确定时有时会猜测，产生看似合理但错误的陈述，而不是承认不确定性。”
这可能会带来现实世界的后果。最近一项研究表明，ChatGPT在一半以上的案例中未能识别出医疗紧急情况。而医疗记录中已有的错误可能会加剧这一问题，2025年英国的一项调查发现，多达四分之一的患者受到医疗记录错误的影响。
虽然医生可能会要求进行更多检查来确认诊断，但一位研究人员解释说，生成式AI“以与正确回答完全相同的自信度给出错误答案”。
正如另一位科学家指出的，问题在于生成式AI“寻找并模仿词语的模式”。正确与否并不是重点：“它本该生成一个句子，它确实做到了。”
研究显示，生成式AI工具有45%的时间会错误地呈现新闻，无论语言或地理区域如何。现在，人们真正担心AI通过生成不存在的徒步路线而危及生命。
当生成式AI建议人们吃石头或用胶水把披萨配料粘在饼底上时，很容易被取笑。
但其他例子就没那么有趣了——比如一家超市的膳食计划器建议了一种会产生氯气的食谱，或者一条饮食建议让某人慢性中毒于溴化物。
寻找更早的信息
教育和建立关于恰当且谨慎使用生成式AI的良好规则至关重要，尤其是在它进入政府、官僚机构和复杂组织之际。
政客们已经在日常工作中使用生成式AI，包括用于政策研究。医院急诊科也在使用AI工具记录患者病历以节省时间。
一个防范措施是尝试寻找更可靠的信息来源，这些信息产生于AI污染的文本和图像渗透互联网之前。
甚至有一些工具可以帮助简化这一过程，包括由澳大利亚艺术家泰加·布雷恩（Tega Brain）创建的一款工具，“它只会返回在ChatGPT于2022年11月30日首次公开发布之前创建的内容”。
最后，如果你想核实本文开头故事的真相，老式书籍可能是你最好的选择：关于英国政府两次鼓励大黄叶中毒的参考资料，可以在《毒药花园的有毒植物大全》和《植物诅咒与毒药：植物的阴影生活》中找到。
*Kevin Veale 是梅西大学（Te Kunenga ki Pūrehuroa, Massey University）媒体研究高级讲师。
本文最初发表于 The Conversation。
【全文结束】