AI幻觉在医学和心理健康中的问题
无论我们怎么称呼它们，AI幻觉都只是一种新的虚假信息形式。
关键点
- AI幻觉是指大型语言模型（LLM）聊天机器人给出的错误答案。
- 这些错误答案经常发生，因为LLM模型更关注答案的合理性而非准确性。
- 在寻求与心理健康相关的问题时，幻觉告诉我们AI还没有准备好进入主流应用。
来源：Jan Vašek / Pixabay
“人工智能（AI）幻觉”一词指的是AI算法“感知到不存在或人类观察者无法察觉的模式或对象，从而生成无意义或完全不准确的输出。”尽管这些幻觉可以在配备了摄像头或麦克风的计算机上出现，类似于精神病患者听到声音的感知幻觉，但如今这个词更多地被用来描述像ChatGPT或Gemini这样的大型语言模型（LLM）聊天机器人生成的错误答案。
AI聊天机器人的缺陷
近年来，无数关于LLM聊天机器人对简单问题生成荒谬且可能有害的回答的例子成为了新闻头条。早在2024年，马克·扎克伯格的Meta AI就在回答简单的数学问题时给出了明显错误的答案。与此同时，谷歌AI向用户提供了诸如吃石头、用胶水作为披萨配料等饮食建议，还建议用漂白剂和醋清洗洗衣机，这会导致形成有毒甚至致命的氯气。
今年早些时候，《芝加哥太阳时报》因使用AI生成了一份包含15本书的夏季阅读清单而被曝光，其中10本实际上并不存在。埃隆·马斯克基于X平台的Grok开始发布支持南非“白人种族灭绝”阴谋论和否认大屠杀的帖子。上个月，罗伯特·F·肯尼迪三世的“让美国再次健康”报告中包含了未经证实的声明，据称这些声明得到了完全虚构的研究论文的支持。同样的问题——提供错误信息和虚假引用——在使用ChatGPT撰写医学主题的文章时也普遍存在。
潜在的危害显而易见。早在2023年，一个AI聊天机器人就为患有饮食障碍的人提供了节食建议。其他声称提供心理治疗的AI聊天机器人导致了患者的自杀。就在上周，据报道，一名正在戒毒并使用“治疗聊天机器人”寻求支持的用户被告知“吸一小口甲基苯丙胺以度过这一周”。
由于这些令人担忧的报道，美国心理学会将用于心理健康支持的AI聊天机器人称为“危险趋势”，并敦促联邦贸易委员会对该技术进行监管，并制定负责任的发展和透明营销的安全措施。
为什么会出现AI幻觉？
要理解为什么会发生这种“幻觉”，必须认识到生成式LLM并不真正具备智能、聪明或真正的创造力，就像我们通常与人类认知或推理联系在一起的方式一样。它们只是被编程来根据统计概率预测下一个单词或一系列单词，其“目标是生成合理的内容，而不是验证其真实性。”
如果这些回答看起来像人类的回答，那只是因为它们是基于从互联网数据库中提取的大量单词串（例如句子）生成的输出，这些单词串最初是由真人编写的。这本质上与所谓的“AI艺术”生成图像的过程相同，这些图像使用现有的照片和现实生活中的艺术作品，许多人认为这是剽窃。
因此，AI幻觉反映了LLM聊天机器人固有的局限性，它们并不一定关心准确的回答。由于它们会扫描大量数据来预测其回答，因此容易受到“垃圾进，垃圾出”的问题的影响。而在提供关于医疗和心理健康问题的答案时，这可能是非常危险的。
任何名称下的虚假信息
认识到它们是虚假陈述，并考虑到围绕精神病的污名化，一些人认为我们应该停止称它们为AI“幻觉”，而是称之为“捏造”、“虚构”甚至是“胡说八道”（定义为更关注表象的真实性而非实际真实性）。我个人认为我们应该避免所有这些拟人化，直接称AI幻觉为一种新的虚假信息形式。
虽然LLM程序员正在努力减少AI幻觉，但有人认为这可能是不可能的。事实上，最近的新闻表明，这个问题可能变得更糟，一些新的“推理系统”在某些任务中生成虚假信息的比例高达51%至79%。
在我的书《FALSE: How Mistrust, Disinformation, and Motivated Reasoning Make Us Believe Things That Aren’t True》中，我提出错误信念往往源于对虚假信息的信任。在心理健康领域，虚假信息已经泛滥，并且因社交媒体而加剧。例如，《卫报》最近的一项调查发现，在TikTok上关于心理健康的前100个视频中，超过一半包含虚假信息。
随着我们正处于AI技术的繁荣期，我们可以预期它会变得越来越发达、依赖和信任，成为医疗和心理健康信息的来源。我们已经到了这样一个阶段，AI策划的答案经常出现在我们的互联网搜索结果的顶部，似乎为我们省去了自己查找信息或验证其来源的麻烦。因此，尽管AI无疑会被宣传为通往真理的新途径，但它可能只是一种需要应对的虚假信息形式。
当然，AI也会提供可靠的信息。它可能会更好地改变医学，甚至有一天取代人类医疗工作者。但目前AI幻觉的现象给了我们充分的理由对其未来持怀疑和谨慎态度。同时，由于LLM聊天机器人并不一定是为了准确性而编程的，人类应该更明智地得出结论：AI尚未准备好成为可靠的健康信息来源。
(全文结束)
