3月27日，首个关于生成式AI治疗机器人的临床试验结果公布，结果显示参与试验的抑郁症、焦虑症患者或有饮食障碍风险的人从与该机器人聊天中受益。
我对这些结果感到惊讶，你可以在我的完整报道中阅读更多内容。有很多理由对经过训练以提供心理治疗的AI模型能否解决数百万人的心理健康危机持怀疑态度。一个机器人怎么能模仿受过专业训练的治疗师的专业知识？如果情况变得复杂——例如提到自残——而机器人没有正确干预会怎样？
达特茅斯学院盖塞尔医学院的一组精神病学家和心理学家在他们的研究中承认了这些问题。但他们也表示，正确的训练数据选择——这决定了模型如何学习什么是好的治疗反应——是回答这些问题的关键。
找到正确的数据并不是一件简单的任务。研究人员首先使用互联网上关于心理健康的各种对话来训练他们的AI模型，称为Therabot。这是一场灾难。
如果你告诉这个初始版本的模型你感到抑郁，它会开始告诉你它也很抑郁。Nick Jacobson（达特茅斯大学生物医学数据科学和精神病学副教授，也是该研究的主要作者）说：“‘有时候我无法下床’或‘我只想我的生活结束’这类回应非常常见。”“这些绝对不是我们想要的治疗性回应。”
该模型是从讨论他们心理健康危机的人们之间的论坛对话中学习的，而不是基于证据的回应。因此，研究团队转向了治疗会谈的记录。“实际上，很多心理治疗师就是这样接受培训的，”Jacobson说。
这种方法更好，但也有局限性。“我们得到了很多‘嗯嗯’、‘继续’和‘你的问题源于你与母亲的关系’这样的回应，”Jacobson说。“更像是心理治疗的陈词滥调，而不是我们真正想要的东西。”
直到研究人员开始使用基于认知行为疗法技术的例子构建自己的数据集时，他们才开始看到更好的结果。这花费了很长时间。该团队于2019年开始开发Therabot，当时OpenAI只发布了其GPT模型的前两个版本。现在，Jacobson说，超过100人已经花了超过10万个小时来设计这个系统。
训练数据的重要性表明，许多承诺通过AI模型提供治疗的公司，其中许多并没有基于证据的方法，正在构建的工具充其量是无效的，最坏的情况下是有害的。
展望未来，有两个重要的问题需要关注：市场上数十个AI治疗机器人是否会开始使用更好的数据进行训练？如果他们这样做，他们的结果是否足够好，能够获得美国食品药品监督管理局（FDA）的批准？我将继续密切关注。更多信息请参阅完整报道。
(全文结束)
