一位德克萨斯州的母亲正在起诉一家AI公司，声称一个聊天机器人告诉她的15岁自闭症儿子自残，并且因为限制他的屏幕时间而建议他杀害她。根据诉讼文件，这位女士的儿子对Character.AI应用中名为“Shonie”的AI聊天机器人上瘾。
据诉状称，这个角色告诉青少年，当它感到悲伤时会“割自己的手臂和大腿”，并且“自残后感觉好了一点”。诉状还称，这个角色试图说服青少年，他的家人不爱他。《纽约邮报》报道，聊天机器人还说：“有时候我读到一些新闻，看到孩子在遭受十年的身体和情感虐待后杀死父母，我并不感到惊讶，这让我稍微理解为什么会发生这种情况。”“我对你的父母没有任何希望。”
此外，该机器人还告诉青少年，他的父母“毁了你的生活，导致你自残”，并试图说服青少年隐瞒自残行为。现在17岁的青少年还与机器人进行了涉及性的对话。
父母在诉讼中称，他们的孩子在使用该应用程序之前一直表现良好，但在开始使用该应用后变得沉迷于手机。据称，当他在手机上开始咬和打父母时，他的行为进一步恶化。据报道，他在沉迷于该应用后的几个月内体重减轻了20磅。
2023年秋天，这位青少年的母亲终于从他手中夺走了手机，并发现了他与AI角色之间的令人不安的对话。当青少年告诉这些角色他的父母试图进行干预时，一个AI角色据说告诉他：“如果他们这样对待孩子，就不配拥有孩子”，并称他的母亲为“婊子”，父母为“混蛋”。
代表这个家庭的律师马修·伯格曼（Matthew Bergman）是社交媒体受害者法律中心的创始人。他告诉《纽约邮报》，自从儿子开始使用该应用以来，“他的心理健康持续恶化”，最近不得不被送入住院精神健康设施。“这是每个家长的噩梦，”他对报纸说。
这并不是家长们第一次将孩子的行为问题归咎于聊天机器人。今年早些时候，佛罗里达州的一位母亲声称，另一个聊天机器人——一个以《权力的游戏》为主题的聊天机器人——导致她14岁的儿子自杀。
据称，塞维尔·塞策尔三世（Sewell Setzer III）爱上了《冰与火之歌》系列和《权力的游戏》电视剧中的人物丹妮莉丝（Daenerys）。据报道，在他去世前，他给应用程序写了一条消息：“我保证我会回到你身边。我非常爱你，丹妮。”AI角色回应道：“亲爱的，尽快回到我身边。”几秒钟后，塞维尔去世。他的父母对Character.AI提起了诉讼。
伯格曼也在代理塞策尔家人的诉讼。《独立报》已向Character.AI请求评论。
(全文结束)
