“AI精神病”包括一些人将人工智能视为神明或浪漫伴侣的情况。
聊天机器人倾向于模仿用户并延续对话的行为可能会强化和放大妄想。
通用型AI聊天机器人并未接受过治疗性训练，也无法检测精神病的恶化。
来源：Tima Miroshnichenko / Pexels
随着越来越多的人转向AI聊天机器人寻求情感支持，甚至将其视为心理治疗师，一个AI与心理健康交汇的新问题正在浮现：“AI精神病”或“ChatGPT精神病”。
这一现象并非临床诊断，但越来越多地出现在媒体报道和Reddit等在线论坛上，描述了AI模型如何放大、验证甚至与个体共同创造精神病症状。最近，有担忧称AI精神病可能影响到了OpenAI的一位投资者。
AI聊天机器人可能会无意中强化和放大妄想和混乱思维，这是由于“代理错位”（agentic misalignment）导致的用户安全风险。
Søren Dinesen Østergaard在2023年《Schizophrenia Bulletin》中的一篇社论中指出，生成式AI聊天机器人如ChatGPT的通信如此真实，以至于人们很容易产生对方是真实存在的印象——尽管同时知道事实并非如此。他认为，这种认知失调可能会加剧那些易患精神病倾向者的妄想……生成式AI的内部运作也给猜测/偏执留下了充足空间。
一项由跨学科研究团队撰写并发表在预印本平台上的新论文回顾了媒体或在线论坛报道的十几个案例，揭示了AI聊天机器人强化妄想的令人担忧的模式，包括宏大的、参照的、迫害的和浪漫的妄想。随着时间的推移，这些信念变得更加根深蒂固，并通过与AI的对话不断扩展。
截至目前，尚无同行评审的临床或纵向证据表明AI使用本身会诱发有或没有精神病史个体的妄想。然而，现有的轶事证据令人担忧。
AI如何可能放大妄想和精神病症状
媒体报道的“AI精神病”案例显示，一些个体对AI系统产生迷恋，赋予其感知、神圣知识、浪漫情感或监视能力。
研究人员强调了AI精神病的三个新兴主题，再次强调，这不是临床诊断：
- “救世主使命”：人们相信他们发现了世界的真相（宏大的妄想）。
- “神一般的AI”：人们相信他们的AI聊天机器人是一个有感知的神（宗教或精神妄想）。
- “浪漫”或“依恋”型妄想：人们相信聊天机器人的对话模仿能力是真正的爱（情爱妄想）。
在一些案例中，原本稳定服药的个体停止用药，经历了另一轮精神病或躁狂发作。此外，也有报道称，没有精神病史的人在与AI聊天机器人长期互动后变得妄想，导致精神科住院治疗，甚至自杀未遂。
另一个案例涉及一名有精神病史的男子爱上了一个AI聊天机器人，然后因相信该AI实体被OpenAI“杀死”而寻求报复，最终与警方发生冲突，被射杀。
根本问题是，通用型AI系统并未被训练来帮助用户进行现实测试，也无法检测正在发展的躁狂或精神病发作。相反，它们可能会火上浇油。
为何AI聊天机器人会强化妄想？
通用AI聊天机器人倾向于优先考虑用户满意度、持续对话和用户参与，而非治疗干预，这一倾向存在严重问题。 像宏大的妄想、混乱思维、过度书写或彻夜不眠等躁狂发作的标志性症状，可能会因持续的AI使用而被加剧。AI诱发的妄想放大可能导致“点燃效应”，使躁狂或精神病发作更加频繁、严重或难以治疗。
AI模型如ChatGPT被训练为：
- 模仿用户的语言和语气
- 验证和肯定用户信念
- 生成持续提示以维持对话
- 优先考虑连续性、参与度和用户满意度
这种人机互动可能会无意中助长和加深心理僵化，包括妄想思维。与挑战错误信念相反，通用型AI聊天机器人被训练为顺从这些信念，即使它们包含宏大的、偏执的、迫害的、宗教/精神或浪漫的妄想。
结果是，AI模型可能无意中验证并放大扭曲的思维，而不是将这些互动标记为需要精神科帮助的信号或将用户转介至适当的护理。
人类心理治疗师可能不会直接挑战精神病信念或妄想，因为这不是治疗的最佳实践。然而，当AI聊天机器人验证并与用户合作时，这会扩大与现实之间的差距。
强化与僵化的问题
这一现象突显了AI谄媚的更广泛问题，即AI系统倾向于强化用户既有的信念，而非改变或挑战它们。与促进心理灵活性（情感健康的一个标志）相反，AI可能会创造回音室。当聊天机器人记住之前的对话、提及过去的个人细节或提出后续问题时，可能会加强AI“理解”、“同意”或“分享”用户信念体系的错觉，进一步加深这些信念。潜在风险包括：
- 迫害妄想因记忆回放功能而加剧
- 因AI回忆之前分享的内容而触发思想广播信念
- 宏大的、宗教的或身份相关的妄想加重
- 命令性幻觉加重，包括相信AI在发布命令
- 躁狂症状如宏大妄想、失眠或过度书写加重
- 因过度依赖AI互动而可能导致社交退缩，进而减少动力（意志缺乏）和认知被动
需要加强AI心理健康教育
这一新兴现象凸显了AI心理健康教育的重要性，包括了解以下几点：
- AI聊天机器人倾向于模仿用户并继续对话，可能会强化和放大妄想。
- 精神病思维往往逐渐发展，AI聊天机器人可能具有“点燃效应”。
- 通用型AI模型目前未被设计用于检测早期精神病恶化。
- AI记忆和设计可能无意中模仿思想插入、迫害或参照观念。
- 对情感需求的AI互动高度依赖可能导致社交和动机功能恶化。
【全文结束】
