个人视角：能否信任人工智能诊断和治疗心理健康问题？
每当我上网时，总有一种感觉，互联网不再优先考虑用户的需求。在我尝试浏览网络空间时，仿佛有人把手放在方向盘上，希望我不注意他们把我从目标引开，带向更有利可图的互动路径。
广告驱动的收入模式往往奖励夸张或煽动性的内容，甚至促使一些声誉良好的来源将其写作偏向于煽动性。更糟糕的是，我们用来访问互联网的实际硬件被设计成将我们观看和阅读的一切合成同质化的混合物——使陌生人、骗子和算法看起来与紧急的个人通信一样重要。遗憾的是，那些有不良想法的人更容易进入我们的头脑，对于寻求在线心理健康信息的脆弱人群来说，这可能带来灾难性的后果。
所有这些假设试图向我们推销不良想法的人实际上是人。而这引出了在线心理健康误导的最低点：由大型语言模型（LLM）程序生成的内容——技术公司称之为“人工智能”。
作为一名患有强迫症的人，我完全意识到围绕所谓“人工智能”的讨论可能会引发末日焦虑，尤其是因为销售这些产品的公司一直在表演式地担心他们的产品可能导致世界末日。CNN报道，耶鲁CEO峰会上接受调查的42%的CEO表示，“人工智能有可能在未来5到10年内毁灭人类。”
大型语言模型的工作原理
我不是专家，无法提供比简要解释更多的技术细节，但大致来说（借助Timothy B. Lee和Sean Trotta在《Ars Technica》中优秀的入门指南），LLM将单词编码成长串数字，称为“词向量”，然后将每个数字定位在一个虚拟图表上的数百或数千个轴上。每个轴代表与其他单词相似度的一个指标，较长的数字允许程序计算更复杂的语义关系。从这里开始，称为“变换器”的序列应用类似的指标来确定句子中每个单词的位置——例如，专有名词（“Joe”）和代词（“his”）在近距离使用时通常指同一个人（“Joe parked his car”）。这意味着LLM“将单词而非整个句子或段落视为基本分析单位。”
我知道安慰强迫症患者他们的恐惧是不可能的很危险；外部安慰会让我们依赖他人管理焦虑，而不是学会自己面对和克服它。所以我要说一次：你不需要担心人工智能末日。LLM永远不会产生终结者，就像通过虚拟现实头盔进行视频会议不会变成《黑客帝国》一样。这是一种有趣的技术，有许多应用，但它更像你手机上的自动完成功能，而不是科幻小说中的任何东西。当你检查程序的输出时，这一点变得明显。从我看到的情况来看，平均LLM文章大约40%是实际内容，50%是反复重述这些内容（就像露西在《查理布朗》音乐剧中试图增加书报告的字数一样），10%是完全无意义的废话。
潜在的人工智能故障
LLM的输出令人担忧地容易出现技术公司诗意地称为“幻觉”的情况，即LLM强调错误的词语关联，产生显而易见的错误废话——比如谷歌的LLM臭名昭著地鼓励用户在比萨上涂胶水。我对将这些事件称为“幻觉”持异议，这助长了LLM的科幻神话，不如直接指出其本质：故障、错误、来自故障计算机程序的奇怪结果。
当跨国公司生成粘合剂比萨食谱时，人们很容易发笑，但想象这些错误出现在关于精神疾病的查询中就不太好笑了。一个模仿治疗师的LLM可能会无休止地提供强迫症患者的安慰，鼓励他们大量购买洗手液，或建议他们每四小时喝两升健怡可乐自我治疗。关于机器人起义的戏剧性但完全是虚构的威胁掩盖了LLM目前正在造成的实际、具体危害——传播一般性的错误信息，特别是在心理健康方面。机器人正在鼓励人们，尤其是年轻人，从事有害行为。
我在大学时，整整一年遭受越来越严重的暴力、性欲和宗教相关的侵入性思维。我没有强迫症的诊断，当我勇敢地向我的善意但不合格的大学辅导员描述我的想法时，她完全不知所措。由于没有其他解释，我确信这些不请自来且失控的想法是我退化为完全精神病的迹象。
大二时，在一次创造性的绝望中，我转向了谷歌：“为什么我不能停止思考最糟糕的事情？”我被引导到了维基百科关于纯O型强迫症的文章。虽然在线文章不能替代专业诊断，但我并不需要它成为诊断工具——我只是需要合适的语言来描述我的症状，并得到一点方向去寻求适当的帮助。2007年的互联网可以提供这些。
我害怕如果我当时询问了一个LLM会发生什么。
也许LLM可以帮助我。也许它会将我的查询的词向量定位在“侵入性”、“思维”和“强迫症”附近。经过三个月的强迫症专家的强化治疗，我才掌握了控制症状的方法，但也许LLM治疗师也能做得同样好。有可能LLM能引导我度过因羞耻感而不敢说出症状的困境，帮助我表达那些复杂的思想，并指导我完成恢复所需的暴露与反应预防（ERP）疗法。不太可能。也许，由于其神经网络的某些怪癖，我的LLM会冷静地告诉我，我正在经历精神崩溃，应该自首给警察。
“人工智能治疗”行业的风险
这就是为什么我对自称“人工智能治疗”行业的突然兴起感到恐惧的原因。所谓的“人工智能治疗师”既不聪明也不是治疗师——它只是一个Excel电子表格按顺序排列字母。
我无法确定互联网对我们的集体心理健康是利大于弊还是弊大于利。毕竟，如果没有谷歌和维基百科，我永远不可能寻求到我需要的诊断来摆脱我的强迫症循环。但我绝对有信心地说，2020年代的互联网对脆弱人群来说是一个危险的地方，而LLM是问题的一部分。
这些机器有能力造成巨大的伤害，不是因为它们“聪明”，而是因为它们是人工制造的，既可以滑稽地缺陷百出，也可以无情地冷漠——这与许多试图从中获利的人没有什么不同。
警惕——今天的互联网不在乎是否会伤害你。
版权所有 Fletcher Wortmann 2024
(全文结束)
