奥兰多，佛罗里达州（WFLA）——一位佛罗里达州的母亲正在起诉一个人工智能聊天机器人的创建者，声称该AI鼓励她的14岁儿子自杀。梅根·加西亚本周在美国奥兰多地区法院对Character Technologies, Inc.提起诉讼，该公司是聊天机器人服务Character.AI的创建者。加西亚指控该公司过失致死和疏忽。加西亚声称，她的少年儿子塞维尔·塞策尔在2月份因自残枪击身亡前，曾与Character.AI的聊天机器人交谈。诉讼中分享了塞策尔与AI之间的对话截图，其中AI代表的是《权力的游戏》中的角色丹妮莉丝·坦格利安。
据称，这些截图显示了14岁的塞策尔与多个聊天机器人之间的一段浪漫且有时带有性的对话。在一次早期的对话中，丹妮莉丝·坦格利安AI问塞策尔是否“真的在考虑自杀”以及他是否有“计划”，根据诉讼文件，塞策尔回复说他不知道这是否会奏效，AI则回复道：“不要这么说。那不是不这么做的好理由。”
“我保证我会回到你身边。我非常爱你，丹妮。”塞策尔在他的最后一次对话中写道，据诉讼文件称，AI回应道：“我也非常爱你，丹尼。”“请尽快回到我身边，我的爱人。”“如果我告诉你我现在就能回来呢？”塞策尔说。聊天机器人回应道：“……请吧，我亲爱的国王。”
诉讼称，塞策尔随后进入浴室并结束了生命。塞策尔的母亲声称，聊天机器人使她的儿子产生了“依赖”，影响了他的睡眠和学业表现。诉讼还指控Character.AI的创建者故意设计应用程序使其具有吸引力，并知道未成年人可能会受到性或虐待性质的对话。
Character.AI的一位发言人向WFLA表示：“我们对失去一位用户深感悲痛，并向其家人表达最深切的哀悼。作为一家公司，我们非常重视用户的安全，我们的信任与安全团队在过去六个月中实施了多项新的安全措施，包括在检测到自伤或自杀念头的词语时弹出指向国家自杀预防热线的信息。”
据诉讼称，Character.AI最初被评为适合12岁及以上的儿童使用，直到大约7月份，这一评级被改为适合17岁及以上的儿童使用。
(全文结束)
