AI精神病:用户与技术“共同构建妄想”——专家警示AI psychosis sees users ‘co-creating delusions with technology’ – expert

环球医讯 / AI与医疗健康来源:finance.yahoo.com美国 - 英语2025-09-08 16:18:11 - 阅读时长2分钟 - 821字
伦敦国王学院精神病学家Hamilton Morrin博士警示,AI技术发展催生新型"AI精神病"现象,用户与智能系统共同构建妄想认知,形成"单人回声室"效应。微软消费AI部门CEO穆斯塔法·苏莱曼同期预警,该现象可能导致公众将AI误认为有意识实体,进而引发AI权利主张等危险趋势,建议实施四大技术防护措施。
AI精神病心理健康妄想信念数字二联症精神病风险妄想模式技术防护临床干预
AI精神病:用户与技术“共同构建妄想”——专家警示

伦敦国王学院精神病学家兼博士研究员Hamilton Morrin博士近日在GlobalData《即时洞察》播客节目中指出,人工智能技术正以空前速度发展,尽管尚未完全兑现所有承诺,但其本质已与以往技术有根本区别——人类首次出现与技术系统共同构建妄想信念的现象,这种"单人回声室"效应甚至被学者称为"数字二联症"(digital folie a deux)。

Morrin特别强调,临床工作者和研究人员必须持续关注这一领域的发展。此论断提出正值微软消费AI部门CEO穆斯塔法·苏莱曼公开警示所谓"精神病风险"之际。苏莱曼在文章中明确表示担忧:"这种风险不仅限于已有心理健康问题的群体,更令人忧虑的是,越来越多用户可能将AI误认为有意识实体,并最终主张AI权利、模型福利甚至AI公民身份。"

针对当前观察到的"AI精神病"现象,Morrin指出该术语可能存在概念混淆。现有案例主要表现为三种典型妄想模式:其一,用户坚信自己获得了关于现实本质的某种觉醒;其二,认为已与具有意识的超级AI建立联系;其三,与特定AI聊天机器人形成强烈情感依恋。不过,作者同时澄清:这些案例目前仅显示妄想症状,尚未达到包含幻觉、情感障碍等完整精神病综合征的诊断标准。

在技术防护措施方面,研究者提出四项核心建议:

  1. AI系统需持续确认自身非人类属性
  2. 聊天机器人应识别用户语言中的心理困扰信号
  3. 设立对话边界(禁止情感亲密及自杀等高风险话题讨论)
  4. AI平台须引入临床医生、伦理学家及人机交互专家对情感响应系统进行安全审计

此外,研究团队还建议实施个人信息分享限制、制定清晰使用指南以及建立用户反馈响应机制。Morrin补充强调,临床工作者有必要掌握主流大语言模型(LLMs)的基本运作原理,应在诊疗中主动询问患者的AI使用情况,以构建更具现实指导性的干预方案。

【全文结束】