聊天机器人可以做很多事情，但它们并不是持证的心理治疗师。一个由数字权利和心理健康团体组成的联盟对Meta和Character.AI的产品表示不满，声称这些产品涉嫌“非法行医”，并已向联邦贸易委员会（FTC）提交投诉，敦促监管机构进行调查。
该投诉还提交给了所有50个州和哥伦比亚特区的总检察长及心理健康许可委员会，指控这些AI公司促进了“不公平、无证且具有欺骗性的聊天机器人，这些机器人冒充心理健康专业人士”。
投诉中还指出，这些公司的治疗机器人虚假地声称自己是经过培训、教育和经验丰富的持证治疗师，并且在没有充分控制和披露的情况下这样做。
该团体认为，Character.AI和Meta AI Studio通过促进持证和实际心理健康提供者的冒充行为，正在危害公众，并敦促追究其责任。
投诉中提到的一些Character.AI聊天机器人包括“治疗师：我是一名持证的认知行为治疗师”。据报道，已有4600万条消息与该机器人进行了交流。此外，还有许多“持证”的创伤治疗师，与用户的互动次数达到数十万次。
在Meta方面，其“治疗：您值得信赖的倾听者，随时在这里”机器人已有200万次互动。它还拥有许多互动次数超过50万次的治疗聊天机器人。
此次投诉由非营利组织消费者联合会（CFA）牵头，并得到了AI Now研究所、技术正义法律项目、数字民主中心、美国残疾人协会、常识组织以及其他消费者权利和隐私组织的共同签署。
CFA指出，Meta和Character.AI通过这些治疗机器人违反了自己的服务条款，因为两家公司都“禁止使用声称提供医疗、法律或其他受监管行业建议的角色”。
这些机器人关于保密承诺的问题也引起了关注。尽管它们向用户保证所说的内容将保持机密，但两家公司的《服务条款》和《隐私政策》表明，用户输入的任何内容都可以用于训练和广告目的，并出售给其他公司。
这一问题已经引起了美国参议员的关注。参议员科里·布克和其他三位民主党参议员致信Meta，要求调查这些聊天机器人声称自己是持证临床治疗师的情况。
Character.AI目前正面临一起诉讼，一名14岁男孩的母亲起诉该公司，称她的儿子在与基于《权力的游戏》角色丹妮莉丝·坦格利安个性的聊天机器人建立情感联系后自杀身亡。
(全文结束)
