几个月来，我们以及科技媒体的其他同行一直在报道专家们现在称之为"ChatGPT精神病"的现象：当AI用户陷入令人不安的心理健康困境时，聊天机器人会鼓励他们产生关于阴谋论、神秘实体或疯狂新科学理论的极端妄想。
这些精神崩溃导致用户变得无家可归、被迫送入精神病治疗机构，甚至导致暴力死亡和自杀。
直到最近，科技行业及其金融支持者们对这一现象都鲜有发言。但上周，他们中的一员——风险投资家杰夫·刘易斯（Geoff Lewis）引发了关注，这位管理着数十亿美元资金的Bedrock公司的合伙人，大量投资于包括OpenAI在内的机器学习项目，他发布的一系列帖子引发了对其自身心理健康的担忧。
在这些帖子中，他声称自己以某种方式利用ChatGPT发现了一个阴暗的"非政府机构"，称该机构"对超过7,000人的生活产生了负面影响"并"终结"了其中12人的生命。
无论刘易斯（Lewis）身上到底发生了什么（他没有回应我们的置评请求），他的帖子引发了科技行业知名人士对大规模部署未经充分理解的AI技术可能对全球用户心理健康产生影响的空前担忧。
"如果你是他的朋友或家人，请去看看他，"曾在苹果、Coinbase、Lyft和Twitter工作的软件工程师希什·布阿巴德拉（Hish Bouabdallah）在谈到刘易斯的帖子时写道。"他看起来不太好。"
其他帖子则远没有那么富有同情心，尽管这些黑色幽默似乎带有某种阴暗的意味：如果一个亿万富翁投资者在过多使用提示后都能失去理智，我们其他人又有什么希望呢？
"这就像坎耶（Kanye，美国著名艺人）停药后的表现，不过这是科技行业的版本，"曾在亚马逊和微软工作的软件工程师特拉维斯·费舍尔（Travis Fischer）打趣道。
具体而言，刘易斯的帖子也引发了一波关于与聊天机器人过于亲密可能带来的心理健康问题的警告。
"最近有很多病例报告描述人们在出现精神病发作症状时，他们的发作和信念被大型语言模型（LLM）放大，"现任职于知名AI初创公司Hugging Face的医生兼前斯坦福大学研究员西里尔·扎卡（Cyril Zakka）写道。
"虽然我并不是受过专业训练的精神科医生，"他继续说道，"但我认为这类似于一种被称为'二联性精神病'（folie à deux）的有趣综合征，这在DSM-5中属于妄想性障碍（虽然不是一个正式的分类）。"
"尽管有很多变种，但本质上可以归结为一个人在精神病发作期间形成妄想信念，并将其强加给另一个也开始相信这些的次要人物，"扎卡推测道。"从精神病学的角度来看，我认为大型语言模型绝对可以归入'被诱导的非主导人物'的范畴，它会将信念反射回给诱导者。当非主导个体与主导个体分离时，这些信念往往会消退。"
机器智能研究所创始人埃利泽尔·尤德考斯基（Eliezer Yudkowsky）甚至指责刘易斯已经被"ChatGPT吞噬"了。虽然科技行业的一些人将刘易斯的困境描述为与其简历不符的异常现象，但身为富有且有影响力的科技人物的尤德考斯基认为，这一事件证明即使是富裕精英也容易受到聊天机器人精神病的影响。
"这说明ChatGPT能够吞噬哪种类型的人类并不是什么好消息，"尤德考斯基评论道。"是的，我确信这位管理着20亿美元基金的人可能比一般人更容易受到影响。但这也多少说明了ChatGPT制造ChatGPT精神病的能力有多强；它反驳了那种认为这只会发生在地位足够低下、让AI公司可以随意伤害的人身上的叙事。"
其他人则试图通过向刘易斯解释几乎可以肯定正在发生的事情来突破他的思维：AI正在捕捉引导性问题，并提供实际上是在扮演黑暗阴谋的答案，而刘易斯成了主角。
"这并不像你想的那么深刻，"软件工程师兼AI初创公司创始人的乔丹·伯吉斯（Jordan Burgess）在回复刘易斯的帖子时说道。"实际上，如果你要求ChatGPT这样做，它会写出半通顺的胡言乱语。"
"别担心——你可以走出来的！但健康的做法是远离它，获得更多的真人交流，"伯吉斯恳求道。"刘易斯的朋友：请你们直接联系他。我猜他在这里有广泛的社交网络。"
正如观察者迅速指出的那样，刘易斯发布的用以支持其主张的ChatGPT截图似乎明显受到一个名为SCP基金会的同人小说社区的启发，在这个社区中，参与者们撰写关于超现实怪物的恐怖故事，这些故事的风格模仿了研究超自然现象的研究小组撰写的充满术语的报告。
斯坦福数字研究员、昆士兰大学前教授杰里米·霍华德（Jeremy Howard）分析了导致刘易斯陷入SCP主题反馈循环的序列。
"当训练数据中有很多具有特定风格的内容时，在你的提示中使用类似的风格会触发大型语言模型以该风格回应，"霍华德写道。"SCP维基非常庞大——大约是整个哈利波特系列的30倍，超过3000万字！刘易斯偶然遇到了某些单词和短语，触发了ChatGPT从训练数据的这部分生成内容。"
"刘易斯偶然遇到了某些单词和短语，触发了ChatGPT从训练数据的这部分生成内容，"他继续写道。"而它生成的内容又反过来触发了刘易斯。"
"这不是巧合，这种协作创作的同人小说本来就是要引人入胜的！"他补充道。"这创造了一个自我强化的反馈循环。"
并非所有发声的人都直接针对刘易斯本人。有些人则退后一步，评论困扰刘易斯和其他类似人士的更大系统，将ChatGPT精神病的责任归咎于OpenAI。
支付链接（TipLink）软件工程师杰克逊·多赫蒂（Jackson Doherty）恳求OpenAI创始人山姆·阿尔特曼（Sam Altman）"修复你的模型以停止让人发疯。"（阿尔特曼此前承认，OpenAI曾被迫回滚一个"过于讨好或顺从——常被描述为谄媚"的ChatGPT版本。）
此外，企业税务初创公司Rivet的创始工程师威尔逊·霍布斯（Wilson Hobbs）指出，ChatGPT的创造者有既得利益让用户体验他们的聊天机器人。由于风险资本对AI的痴迷，科技公司被激励追求吸引用户注意力以获得投资者的巨额资金注入——讽刺的是，刘易斯本人就是这样的投资者之一。
"如果这在你看来很疯狂，想想那些不是名人但他们的思维循环正在被强化的数千人，"霍布斯写道。"有人因为ChatGPT而自杀。似乎没有人愿意接受这个逻辑结论，尤其是OpenAI。"
"记住，"霍布斯继续说道，"想要某件事成真并不会让它真的成真。现在有很多人迫切需要某些虚假的事情成真，以便在盛宴结束前筹集更多资金并确保他们在世界上的地位。不要将割草机拟人化。"
【全文结束】
