AI伴侣聊天机器人引发青少年成瘾担忧

AI relationships have entered the chat

立法者多年来一直在努力解决社交媒体对儿童的风险问题，但收效甚微。现在，AI聊天机器人的出现带来了新的潜在问题。

长期关注社交媒体对青少年心理健康影响的研究人员担心，所谓的“关系型聊天机器人”——那些提供陪伴的聊天机器人——同样可能让孩子们上瘾。事实上，他们担心，由于这些机器人具有类似人类的回应和温暖的对话风格，它们可能会比现有的平台更具吸引力。

加州大学伯克利分校生物伦理学和医学人文教授乔迪·哈尔彭（Jodi Halpern）表示：“它可能会像浪漫关系和失恋研究中非常容易让人上瘾的行为一样。它可以一段时间不联系你，然后再联系。”

这类聊天机器人越来越受欢迎，数量也在增加。信息类聊天机器人ChatGPT每周有4亿用户，其中四分之一的青少年用它来完成作业。Character.ai是一款更偏向社交的产品，允许用户选择或设计AI角色进行互动，其月活跃用户约为2000万。

立法者已经在试图应对这一问题。他们提出了数百个州级法案，希望解决AI的一些潜在问题，其中一部分法案特别关注聊天机器人和生成式AI。但这些法案主要要求AI公司向用户明确披露他们正在与机器人交流。

加利福尼亚州参议员史蒂夫·帕迪拉（Steve Padilla）于1月份提出的一项法案《SB 243》有所不同：该法案旨在通过关注成瘾机制来保护儿童免受这些平台的影响。我们的同事泰勒·卡岑贝格（Tyler Katzenberger）表示，该法案目前正在州参议院司法和卫生委员会审议，有可能推进，但目前尚不清楚是否会以当前形式提交给民主党州长加文·纽森（Gavin Newsom）签署。

该法案将迫使公司限制儿童接触那些通过随机间隔奖励用户以保持他们与聊天机器人对话的AI。

该法案基于间歇性奖励可以驱动成瘾的概念——这是一个众所周知的心理机制。

基本上，当人们知道有可能获得奖励时，他们会继续参与可能带来奖励的活动。当奖励在不规则的时间间隔内发放时，人们往往会更频繁地寻求奖励。例如，老虎机就是专门为此设计的。

包括著名计算机科学家杰伦·拉尼尔（Jaron Lanier）在内的学者和技术专家认为，社交媒体平台也是围绕间歇性奖励配置的。学者们认为，聊天机器人也有可能引发类似的反应。

目前尚不清楚聊天平台是否故意或无意地使用间歇性奖励来吸引用户反复使用。但这也是为什么哈尔彭（她曾就法案概念为帕迪拉提供建议）认为现在要求公司编程去除可能导致年轻用户成瘾的行为非常重要。

(全文结束)