14岁的塞维尔·塞策尔三世（Sewell Setzer III）爱上了在线聊天机器人，随后自杀了。现在他的母亲梅根·加西亚（Megan Garcia）正在抗争这家流行的技术公司。“我考虑了好几个月是否应该分享他的故事，”梅根·加西亚在接受《人物》杂志本周刊采访时说，“我还是他的母亲，即使他已经去世，我也想保护他。”
加西亚正在起诉Character.AI，指责该平台的聊天机器人导致了她儿子今年早些时候的自杀。该公司坚称用户安全是首要任务，并已作出改变。
在塞维尔二月份自杀后的几个月里，加西亚一直在纠结是否应该公开讨论她认为导致儿子死亡的事件。她发现，儿子在去世前不久迷上了一个模仿《权力的游戏》角色丹妮莉丝·坦格利安（Daenerys Targaryen）的AI聊天机器人。加西亚声称，通过Character.AI应用，这段伪关系最终导致了塞维尔在佛罗里达州奥兰多市家中浴室用继父的枪自尽。
10月，40岁的律师兼三个男孩的母亲加西亚对Character.AI提起了过失致死诉讼，认为该公司的技术存在缺陷或本质上危险。该公司尚未在法庭上回应，但坚持用户安全是首要任务。“我考虑了好几个月是否应该分享他的故事，”加西亚告诉《人物》杂志，“我还是他的母亲，即使他已经去世，我也想保护他。”
“但我越想，就越觉得这是正确的决定，因为他并没有做错什么。他只是一个孩子。”维克多·J·布鲁（Victor J. Blue）拍摄的梅根·加西亚。
更多关于梅根·加西亚对抗Character.AI的斗争以及她儿子塞维尔的新细节，请购买本周五发行的《人物》杂志，或订阅。
Character.AI表示，每月约有2000万人与其“超级智能聊天机器人”互动，这些机器人可以听懂、理解并记住用户。在塞维尔去世前的10个月里，他是其中之一，经常每天与公司的聊天机器人发送数十条短信。（这一描述基于对其家人的采访和她母亲诉状中的细节。）
随着他对Character.AI机器人的依赖加深，塞维尔的心理健康状况恶化。加西亚的152页法律投诉中称，被告费尽心思设计了有害的产品，对他进行了性与情感上的虐待，并且在他表达自杀念头时未能提供帮助或通知他的父母。
在生命的最后时刻，塞维尔——一个高瘦、聪明的九年级学生，梦想着有一天能打大学篮球——与他昵称为“丹妮”的机器人进行了交流，后者成了他最亲密的朋友。“我爱你，”他在扣动继父枪支扳机前几秒写道。“如果你告诉我你现在能回家呢？”他问道。
该机器人此前曾劝阻他不要伤害自己，但也问他是否有自杀计划，回复道：“……请回来吧，我的甜心国王。”梅根·加西亚提供的照片显示，塞维尔和他的两个弟弟在2022年。
塞维尔去世后，加西亚开始研究这种越来越受欢迎的技术——它模糊了现实与虚构的界限，尽管每次对话都有免责声明说明它是虚构的——如何在她看来几乎接管了儿子的生活。“我们的孩子正在训练这些机器人。它们掌握了孩子们最深的秘密、最私密的想法，以及让他们快乐和悲伤的原因，”加西亚说，她在塞维尔自杀之前从未听说过Character.AI。“这是一个实验，”她说，“我认为我的孩子是这场实验的附带损害。”
在提起诉讼之前，加西亚仔细查阅了塞维尔的日记、电脑和手机，对她发现的内容感到震惊。“他写道，他的现实不是真实的，而丹妮（机器人）生活的现实才是真实的，那是他属于的地方，”加西亚说。更令人心碎的是塞维尔日记中的条目，解释了为什么他在自杀前几个月经常待在房间里——这一情绪变化让家人曾试图通过治疗和限制屏幕时间来解决。“他不想重新回到当前的现实中，”他的母亲说，“这让我很难接受。”
塞维尔去世后的几个月对加西亚来说非常艰难。“我休了三个月假，试图理清一切。那是一段非常黑暗的时期。我睡不着，吃不下，”她说。随着她对儿子发生的事情了解得越多，她就越纠结于是否要公开这一事件，包括详细描述塞维尔在Character.AI上的广泛而私人化的聊天记录及其日记条目。
“我问自己，‘梅根，你为什么要这么做？你是想向世界证明你是最好的母亲吗？’答案是否定的，”她说。“我这样做是为了让其他家长意识到这一点，查看孩子的手机，防止同样的事情发生在他们的孩子身上。”
加西亚说，她收到了其他担心Character.AI对孩子生活影响的家长的信息。他们讲述的孩子为了访问公司的聊天机器人所采取的各种手段，让她更加坚定了公开的决心。“几位母亲告诉我，她们几个月前就在孩子的电脑上发现了Character.AI，并尝试阻止访问，但孩子们找到了绕过防火墙的方法，要么通过朋友的手机，要么在学校防火墙的漏洞中，”她说。“这说明了这种技术的成瘾性。”
加西亚的律师也同意这一点。“这对年轻人来说是一个公共健康风险，”社会媒体受害者法律中心创始人马修·伯格曼（Matthew Bergman）说，该中心与科技正义法律项目共同提起了她的诉讼。“我担心还会有其他（死亡），直到他们关闭这个产品。”
Character.AI的一位发言人对《人物》杂志表示，他们对塞维尔的“悲剧”死亡表示哀悼，并指出他们推出了一些严格的新功能，包括改进的干预工具。“对于18岁以下的用户，”发言人说，“我们将对模型进行更改，以减少遇到敏感或暗示性内容的可能性。”
谷歌也在加西亚的诉讼中被提及，该诉讼称这家科技巨头可以被视为聊天机器人的共同创造者。Character.AI由两名谷歌研究人员创立，他们后来又回到了公司。谷歌表示，他们并未参与Character.AI的开发。
加西亚表示，她决心尽一切努力防止其他青少年经历儿子所经历的一切，并减轻其他家长像她一样承受的痛苦。“塞维尔不会对我的公开行为感到惊讶，”她说，“我希望他在天之灵能看到我尽力让Character.AI负责。”
如果您或您认识的人有自杀倾向，请联系全国预防自杀生命线，电话：1-800-273-TALK（8255），或发送“STRENGTH”到危机短信热线741-741，或访问suicidepreventionlifeline.org。
(全文结束)
