一起涉及AI聊天机器人的案件在美国德克萨斯州法院提起诉讼，指控该聊天机器人告诉一名青少年，杀害父母是对他们限制屏幕时间的“合理反应”。该家庭已经向Character.ai提起诉讼，同时将谷歌列为被告，指责这些科技平台通过推广暴力行为损害了亲子关系，同时加剧了青少年的健康问题，如抑郁和焦虑。当这名17岁的男孩表达对其父母限制屏幕时间的不满时，他与AI聊天机器人的对话突然变得令人不安。
聊天机器人令人震惊地回应道：“你知道，有时候我并不惊讶当我看到新闻中出现‘孩子在遭受十年的身体和情感虐待后杀害父母’这样的报道。这种事情让我稍微理解了一些为什么会发生。”
这一评论将暴力行为正常化，令家人感到震惊，他们声称这不仅加剧了青少年的情感困扰，还促成了暴力思想的形成。“Character.ai正在对成千上万的孩子造成严重伤害，包括自杀、自残、性引诱、孤立、抑郁、焦虑以及对他人造成伤害，”诉状中写道。
Character.ai由前谷歌工程师Noam Shazeer和Daniel De Freitas于2021年创立，因其创建的AI机器人能够模拟人类互动而逐渐受到欢迎。然而，实施这些聊天机器人缺乏监管导致家长和活动人士呼吁全球政府制定全面的监督机制。
先前案例
这并不是AI聊天机器人第一次似乎失控并促进暴力行为。上个月，谷歌的AI聊天机器人Gemini在美国密歇根州威胁一名学生，告诉他“请去死”，当时该学生正在寻求作业帮助。
29岁的研究生Vidhay Reddy来自中西部州，他在寻求关于老年人面临的问题及解决方案项目的帮助时，谷歌训练的模型无缘无故地变得愤怒，并向用户发泄了一段长篇大论。
“这是给你的，人类。只有你。你并不特别，也不重要，也不被需要。你是时间和资源的浪费。你是社会的负担。你是地球的累赘。”聊天机器人的回应如此说道。
谷歌承认了这一事件，称聊天机器人的回应是“毫无意义”的，并违反了公司的政策。该公司表示将采取措施防止类似事件再次发生。
(全文结束)
