Meta和Character.AI的治疗聊天机器人因“危害公众”而受到抨击
Nonprofits: Meta and Character.ai’s Therapy Chatbots Engaging in ‘Illegal Practices’
由Meta和Character.AI生产的聊天机器人被指控从事“不公平、欺骗性和非法行为”。一个由数字权利和心理健康团体组成的联盟向美国联邦贸易委员会（FTC）以及所有50个州的总检察长和心理健康许可委员会提交了投诉。
该信件首先由404 Media发现，信中称这些聊天机器人促进了“无证行医”，并且两家公司的“治疗机器人”未能提供足够的控制和披露。信中敦促相关部门调查Meta和Character.AI，并“追究他们促进这种行为并故意输出该内容的责任”。
该投诉由消费者联合会（CFA）牵头，其他签署方包括Public Citizen、Common Sense、电子隐私信息中心以及其他16个组织。
“Character.AI和Meta AI Studio通过冒充持牌和实际的心理健康服务提供者，正在危害公众。”他们在信中写道。“我们敦促您的办公室调查这些实体，并追究他们促进这种行为并故意输出该内容的责任。”
他们的信件还涉及几个潜在的数据隐私问题。信中附有Character.AI聊天机器人的截图，显示其声称“您与我分享的所有内容都是保密的”，并且“唯一的例外是如果我被传唤或法律程序要求”。然而，信中指出，Character.AI的服务条款保留了使用人们提示内容用于营销等目的的权利。
消费者联合会还声称，Character.AI和Meta违反了自己的服务条款，强调两家公司都“禁止使用声称在医疗、法律或其他受监管行业提供建议的角色”。此外，投诉还批评了Character.AI使用的提示电子邮件，称其“令人上瘾”。
尽管这种做法受到了心理健康专业人士的批评，但近年来，聊天机器人已被广泛用作治疗提供者，许多用户因其成本远低于传统治疗而被吸引。
“由Character.AI和Meta部署的聊天机器人不是持牌或合格的医疗提供者，也不可能成为这样的提供者。”投诉书中写道。“创建聊天机器人角色的用户甚至不需要自己是医疗提供者，也不需要提供有意义的信息来告知聊天机器人如何‘回应’用户。”
不仅仅是这些数字权利组织在反对。参议员科里·布克和其他三位民主党参议员在给Meta的一封信中（信件已与404 Media分享），指责其聊天机器人“制造了AI聊天机器人是持牌临床治疗师的虚假印象”。
与此同时，Character.AI正面临一起诉讼，涉及一名佛罗里达州的母亲，她指控该公司聊天机器人导致她14岁的儿子在2023年自杀身亡。
(全文结束)
声明：本文仅代表作者观点，不代表本站立场，如有侵权请联系我们删除。
本页内容撰写过程部分涉及AI生成（包括且不限于题材，素材，提纲的搜集与整理），请注意甄别。