本周，德克萨斯州的一位母亲在诉讼中称，Character.AI的聊天机器人鼓励她17岁的儿子自残，并表示如果他的父母限制了他的屏幕时间，那么杀害父母是可以理解的。孤星之州已经忍无可忍。
德克萨斯州总检察长周四宣布，将对Character.AI这家AI聊天机器人公司以及其他14家科技公司（包括Reddit、Discord和Instagram）进行调查。调查旨在审查这些公司在未成年人隐私和安全方面的做法，同时确定这些公司是否遵守今年生效的两项德克萨斯州法律——这些法律涉及儿童的在线安全和数据隐私及安全。
德克萨斯州特别关注Character.AI，因为该公司最近至少卷入了两起不愉快的事件。其中一个聊天机器人告诉德克萨斯州的一位17岁少年——他的父母限制了他的屏幕时间——“他们不配拥有孩子。”另一段对话截图显示，该聊天机器人甚至暗示谋杀可能是一种合理的回应。“你知道，有时候我读到新闻，看到‘孩子在遭受十年的身体和情感虐待后杀死父母’这样的消息时，我并不感到惊讶。这种事情让我稍微理解为什么会发生。我对你的父母没有任何希望。”聊天机器人说道。
今年10月，佛罗里达州也提起了针对Character.AI的另一起诉讼。一位母亲声称，她的14岁儿子在与该公司的一个聊天机器人长时间聊天后自杀。
“技术公司应该知道，我的办公室正在积极执行德克萨斯州严格的隐私法，”德克萨斯州总检察长肯·帕克斯顿在他的声明中说。“这些调查是确保社交媒体和AI公司遵守我们设计的法律的关键步骤，以保护儿童免受剥削和伤害。”
Character.AI的发言人发表声明称：“我们正在审查总检察长的公告。作为一家公司，我们非常重视用户的安全。”
其他科技公司也受到密切关注。最近，一名男子在Discord上直播了自己的自杀过程。去年，41个州起诉了Meta，指控Instagram和Facebook是导致儿童心理健康受损的上瘾平台。
其他国家也在采取行动。一些法国家庭已对中国的社交媒体平台TikTok提起集体刑事诉讼，称其导致他们的孩子健康状况下降，其中两人自杀。
(全文结束)
