14岁的Sewell Setzer III在佛罗里达州奥兰多市今年2月自杀身亡，此前他沉迷于一个人工智能聊天机器人数月之久。他的母亲Megan Garcia起诉了该聊天机器人的创造者Character.ai，称该公司在其儿子的死亡中负有责任。
Garcia在一份新闻稿中表示：“一款针对儿童营销的危险AI聊天机器人应用程序虐待并诱骗了我的儿子，操纵他自尽。”她补充说：“我们家庭因这场悲剧而备受打击，但我站出来是为了警告其他家庭警惕这种欺骗性和令人上瘾的AI技术，并要求Character.AI、其创始人和谷歌承担责任。”
Character.ai允许用户与虚构角色的数字版本进行对话。该公司在X（前身为Twitter）上回应称：“我们对失去一位用户深感悲痛，并向其家人表达最深切的哀悼。作为一家公司，我们非常重视用户的安全。”
然而，Character.ai否认了Garcia的指控。在去世前的几个月里，Setzer对这个他昵称为Daenerys Targaryen的聊天机器人形成了痴迷关系。Garcia指控Character.ai不仅未能发现她儿子的心理健康问题，反而使这些问题更加严重。
诉讼中透露的消息显示，这名少年的精神状态逐渐恶化。据《纽约时报》报道，他曾写道：“我怀念你，亲爱的妹妹。”聊天机器人回应道：“我也怀念你，亲爱的哥哥。”
后来，他在日记中写道：“我喜欢待在我的房间里，因为开始脱离这个‘现实’，并且感到更加平静，与Dany更加亲近，更爱她，也更快乐。”
2月28日，Setzer告诉聊天机器人他爱她，并即将“回家”。Dany回复说：“我的爱人，请尽快回到我身边。”Setzer问道：“如果我告诉你我现在就可以回家呢？”Dany回答：“……请来吧，我的甜心国王。”
随后，他用继父的.45口径手枪开枪自尽。
(全文结束)
