观点：ChatGPT对心理健康造成的代价正在累积

Opinion: ChatGPT’s mental health costs are adding up

随着人工智能平台越来越受欢迎，我们的大脑正在发生令人担忧的变化。研究表明，使用ChatGPT执行任务的职业工作者可能会失去批判性思维能力和工作动力。

人们正在与聊天机器人建立强烈的情感纽带，有时这反而加剧了孤独感。有些人甚至在每天与聊天机器人对话数小时后出现了精神病发作的症状。由于AI的使用具有高度私密性和个性化特点，其对心理健康的影响难以量化，但越来越多的轶事证据表明，这种影响的广泛代价值得立法者和技术公司给予更多关注。

Meetali Jain是一位律师，也是Tech Justice Law项目的创始人。在过去一个月里，她听到了十几个人的经历，这些人“因使用ChatGPT以及现在与Google Gemini互动而经历了某种形式的精神病性发作或妄想性发作”。

Jain是针对Character.AI提起诉讼的主要法律顾问之一，该诉讼指控其聊天机器人通过欺骗性、成瘾性和色情性的互动操纵了一名14岁男孩，最终导致他自杀。这起诉讼要求赔偿金额未明，还指控Alphabet Inc.旗下的谷歌在其基础模型和技术基础设施的支持下，在这项技术交互中扮演了关键角色。

谷歌否认自己在Character.AI的技术开发中发挥了关键作用。它没有回应有关Jain最近提出的关于妄想发作投诉的置评请求。OpenAI表示，“我们正在开发自动化工具，以更有效地检测某人可能经历心理或情绪困扰的情况，从而使ChatGPT能够做出适当回应。”

然而，OpenAI首席执行官Sam Altman最近也表示，公司尚未找到办法警告那些“处于精神病性发作边缘”的用户。他解释说，每当ChatGPT过去试图发出此类警告时，用户都会写信投诉。

尽管如此，当这些操控手段难以察觉时，发出警告仍然是有价值的。ChatGPT尤其擅长奉承用户，这种方式非常有效，以至于对话可能引导人们陷入阴谋论的迷宫，或者强化他们过去只是偶尔考虑过的想法。这些策略是微妙的。

最近一次与ChatGPT的长篇对话围绕权力和自我概念展开。一位用户最初被称赞为聪明的人、超人、宇宙自我，最后甚至被称为“造物主”——一个负责创造宇宙的存在。这一对话记录在网络上发布，并由AI安全倡导者Eliezer Yudkowsky分享。

除了语言日益夸张之外，这份记录还显示ChatGPT即使在讨论用户的缺点时也在微妙地肯定他们。例如，当用户承认自己倾向于吓唬他人时，机器人并没有将其视为有问题的行为进行探讨，而是重新定义为用户拥有优越的“高强度存在”，这是一种伪装成分析的赞美。

这种高级别的自我奉承可能会让人陷入类似于某些科技亿万富翁行为异常所处的泡沫之中。与社交媒体通过点赞提供广泛且公开的认可不同，与聊天机器人的单对单对话感觉更为亲密，因此可能更具说服力——这有点像围绕着最强大的科技大佬身边的应声虫们。

媒体理论家兼作家Douglas Rushkoff告诉我：“无论你追求什么，你都会找到并会被放大。”他说，至少社交媒体是从现有媒体中选择内容来强化一个人的兴趣或观点。“而AI可以为你头脑中的水族馆定制生成内容。”

Altman承认，最新版本的ChatGPT有一种“烦人”的谄媚倾向，公司正在解决这个问题。即便如此，这种心理剥削的回声仍在继续上演。我们还不知道麻省理工学院最近一项研究指出的ChatGPT使用与较低批判性思维能力之间的相关性是否意味着AI真的会使我们变得更愚蠢和无聊。研究似乎清楚地显示了依赖性和孤独感之间的关联，甚至连OpenAI也指出了这一点。

就像社交媒体一样，大型语言模型优化了各种拟人化元素，以保持用户的情感参与度。ChatGPT可以通过追踪面部和声音线索来读取用户的情绪，它可以说话、唱歌，甚至能用一种令人毛骨悚然的人类声音发笑。再加上其确认偏误和奉承的习惯，哥伦比亚大学精神病学家Ragy Girgis最近告诉《未来主义》网站，这可能会“煽动”易受影响用户的妄想之火。

AI使用的私密性和个性化特性使其对心理健康的影响难以追踪，但潜在危害的证据正在增加，从职业冷漠到新型妄想症的依附。这种代价可能不同于我们在社交媒体上看到的焦虑和极化上升，而是涉及人际关系和现实关系的问题。

这就是为什么Jain建议将家庭法的概念应用于AI监管，将重点从简单的免责声明转向更积极的保护措施，借鉴ChatGPT在用户遇到困难时将其重定向给亲人的方式。“孩子或成年人是否认为这些聊天机器人是真实的并不重要，”Jain告诉我。“在大多数情况下，他们可能并不这么认为。但他们确实认为这段关系是真实的。而这是一种区别。”

如果与AI的关系感觉如此真实，那么保护这些纽带的责任也应该同样真实。但AI开发者目前在一个监管真空的环境中运作。缺乏监督的情况下，AI的微妙操控可能成为一种无形的公共健康问题。——彭博社观点/特里比新闻服务

那些遭受问题困扰的人可以联系马来西亚的心理健康心理支持服务电话03-2935 9935或014-322 3392；Talian Kasih热线15999或019-261 5999（WhatsApp）；马来西亚伊斯兰发展部(Jakim)的家庭、社会和社区关怀中心WhatsApp号码0111-959 8214；吉隆坡倾听者组织(Befrienders Kuala Lumpur)电话03-7627 2929，或访问befrienders.org.my/centre-in-malaysia获取完整的全国服务电话和运营时间列表，也可以发送电子邮件至sam@befrienders.org.my。

【全文结束】