（本文字幕已编辑以提高清晰度）
Stephen M. Strakowski博士：大家好，我是印第安纳大学医学院印第安纳波利斯分校的精神病学教授Steve Strakowski博士。人工智能（AI）最近备受关注，正逐步进入精神健康和精神卫生保健领域。
我邀请了两位专家来讨论AI如何可能影响我们的临床实践。首先欢迎Roy Perlis博士，他是麻省总医院精神病学研究副主任。
Roy H. Perlis博士，医学硕士：你好，Steve，感谢邀请。
Strakowski：还有Martin Paulus博士，他是俄克拉荷马州塔尔萨市脑研究所的科学总监。
Martin P. Paulus博士：谢谢，大家好。
定义"人工智能"与算法推理
Strakowski：Roy，我们从你开始。什么是人工智能？它是单一概念吗？
Perlis：我们将人工智能视为利用计算机执行传统上需要人类智能的任务或解决需要人类智能的问题。有时人们将其与机器学习混为一谈，但实际上它比机器学习更广泛。它是指使用计算机完成过去需要人类智能才能完成的任务。
Strakowski：前几天，一位非常聪明的患者告诉我，实际上并不存在真正的人工智能，它只是日益复杂的算法。计算机并没有真正的推理能力。这是真的吗？Martin，你怎么看？
Paulus：这取决于你如何定义智能。该领域的研究人员在开发AI系统时，实际上回避了"是否存在人工智能"这一普遍问题。他们真正做的是将AI与非常具体的过程进行基准测试，然后观察这些系统与人类相比表现如何。它们在某些方面非常出色，但在其他方面表现不佳。
重要的是，尽管这些系统背后有通用算法，但系统中也存在一定程度的随机性。由于计算变得极其复杂，即使这些系统的创建者目前也无法完全理解它们的工作原理。人们对这些系统的基本功能有基本了解，但它们如何精确得出解决方案仍是个谜。
坦率地说，人们正在各个层面研究这个问题。甚至数学家也在研究认知过程如何在这些多层神经网络上展开，而这正是这些系统背后的架构。
Perlis：公平地说，我们实际上也不完全理解人类认知是如何工作的。有些人说AI没有做人类正在做的事情。这可能是对的，但我们实际上并不完全理解人类在做什么。
AI擅长的事情通常与人类擅长的事情不同，反之亦然。每种解决问题的方法都有其优势。我们必须弄清楚在哪些方面AI适用，在哪些方面人类智能更适用？
大型语言模型是"神经网络"
Strakowski：什么是大型语言模型？因为在心理健康领域经常讨论这个话题。
Perlis：如果回溯到我本科时期，我曾参与单个神经元的计算建模。我当时有一台当时最先进的SPARCstation巨型计算机，一次只能模拟一个神经元。
真正推动现代人工智能方法发展的，是Martin提到的计算技术进步，这使得模拟整个神经元网络成为可能。再加上用于训练的材料（即互联网）的可用性，这两个因素共同推动了该领域的发展。
回答你的问题，大型语言模型是一种神经网络。它们通常使用一种称为变换器模型的特定架构，该模型开发于2017年左右，是构建神经网络的一种特定方式，事实证明它能解决许多先前的计算问题。
如果你理解神经网络（精神病学领域的大多数人都对此有一定直觉），你就对语言模型的构建方式有所了解。
当今AI能做什么和不能做什么
Strakowski：随着这些技术的普及，它们在《情绪与焦虑障碍杂志》6月刊发表了一篇优秀论文。
Martin，你为刚才提到的论文设计了这个图表。你能带我们了解一下，并帮助我们思考当前如何使用AI吗？
Paulus：当我在会议上做报告并思考我们当前所处阶段时，按AI可能介入的阶段来思考很有意义。许多人知道AI系统已用于例如电子病历记录。
Roy最近发表了一篇论文讨论这一点。我们可以讨论AI对病历记录的影响。但目前这已在使用中，并在某种程度上影响着我们与患者的互动。我们需要思考使用AI时面临的风险。这就是我如何区分当前适合使用的应用、近期可能考虑的应用（基于研究数据）以及我们还需较长时间才能考虑的应用。显然，这在某种程度上是一种预测，也可能存在错误。
就实际操作而言，我认为AI目前在以下方面非常有用：安排患者就诊、提供由临床医生监督的更全面的心理教育。
在行为治疗方面，可以将其视为认知行为治疗（CBT）家庭作业的辅助工具，或确保患者在两次就诊之间完成应做事项。本质上，这是一种低级别的辅助工具。这类应用正在开发中，有些已进行测试。虽然额外疗效有限，但确实存在。这些是我们目前可以考虑使用的应用。
临床决策中的风险点
Paulus：当我们使用AI帮助临床医生做决策时，情况会变得棘手，我们需要更多数据。例如，患者应多久就诊一次？哪些患者应由谁接诊？
更成问题的是全面的就诊前综合分析。有时大型语言模型会将编造内容呈现为事实。我们必须意识到这仍然是一个问题。虽然不如以前突出，但在高风险环境中，这仍然是一个重大问题。
我认为AI系统最终可以帮助分析和处理持续的数据，如被动传感数据，但我们尚未达到这一阶段。此外，Roy在这方面做过一些工作，处理电子健康记录本身并提供可帮助临床医生决策的输入。因此，我认为这仍处于研究层面。
AI与精神病学关注点
Paulus：在危机评估方面，无论是自杀还是杀人风险，我确实认为我们尚未达到使用AI的阶段。
对于儿童和青少年精神病学领域的医生，我还想强调需要格外谨慎对待AI与青少年的互动。许多青少年确实在使用AI。我交谈过的几乎所有儿童精神病学家都表示，他们的青少年患者之前已通过GPT询问过他们感兴趣的问题。
这方面存在重大问题。来自ABCD（青少年大脑认知发展）研究的迹象表明，青少年与这些聊天机器人的互动急剧增加，我们尚不清楚长期后果会是什么。
另一个方面：一些研究表明，GPT可能会使人们陷入强化循环，可能加剧或恶化症状。我在评论中提到的一项强迫症（OCD）研究显示，人们使用一段时间后强迫症症状实际上会加重。
对于严重精神疾病患者的复杂管理，我们尚未达到能够利用AI的阶段。这并不是说将来可能不会使用，但我不会信任AI系统来管理躁狂发作或精神疾病发作的患者。
AI的风险-收益平衡
Perlis：我非常欣赏将其框定为风险-收益矩阵的观点，这不是一个放之四海而皆准的解决方案，我们的思考方式实际上取决于在这个矩阵中的位置。这就是为什么当我听到人们说"我对AI不感兴趣。我不使用AI"时感到沮丧。这有点像说"我不使用计算机"。你可以选择不使用计算机，但你可能会错过一些能提高工作效率的东西。
Martin描述的另一个我喜欢的方面是，这确实是一个不断变化的目标。一年前无法使用这些模型完成的任务，我现在对其应用感到更加舒适，而且这种情况很可能会继续改变。
我们领域的一个挑战是，你总是在打上一场战争。幻觉问题仍然是个担忧。在《匹兹堡》的一集中，他们使用了一个转录员，结果错误记录了一种药物。转录员对其中一种药物产生了幻觉。这类问题确实存在，我们在管理和构建能抵御幻觉的系统方面正在取得实质性进展。
有一篇非常有趣的论文讨论了最近发表的论文中伪造或幻觉参考文献的比例，这让我们了解到问题的规模。但同样，一年后这可能就不再是大问题了。
在考虑风险和收益时，我最喜欢的类比是乘坐Waymo自动驾驶汽车。如果你是数据专家并查看Waymo的安全统计数据，乘坐Waymo比乘坐出租车更安全。看看这些数字。当我前往旧金山时，我乘坐了Waymo吗？没有，因为我对此感到焦虑，担心在山坡上刹车会失灵。这是合理的反应。同样，我们现在可以有自动驾驶仪起飞、飞行和降落飞机，但驾驶舱里仍然有飞行员。因此，我们需要人类参与的程度将随时间变化。
最后我想说的是，我们忽视了当前精神病学和心理学在照顾许多需要照顾的人方面做得非常差的事实。这不是缺乏意愿，而是供应不足。护理质量存在巨大差异。因此，与其他任何技术一样，你必须问：与什么相比？我希望患者使用聊天机器人而不是治疗师吗？不。另一方面，如果他们无法获得治疗师，是否有情况可能对人们有帮助？我相信有时确实如此。
为什么AI发展比预期更快
Paulus：你提到了一个非常重要的话题，即这些变化是巨大的、快速的。有如此多的新发展。例如，我们还没有讨论过，但人们正将这些AI系统用于编码目的。一年前，如果你尝试使用这些编码代理，它们还可以，但会出错，你基本上必须检查代码并纠正一些问题，因为它们没有使用正确的库，使用这些工具编码比改进更像是一种头痛。
现在，你基本上可以与编码代理交谈，它们会编写代码，甚至会做你要求时没想到的事情。当你看到它们所做的，完全合乎逻辑。它们自我纠正，测试代码，因此你可以确保它们确实能运行。这很了不起。它已经改变了软件工程师当前的编码方式。一些顶级人员——他们本质上是监督编码的代理。
这是进展极其迅速且在产出质量方面不可完全预见的一个例子。我们在其他应用中也面临这种情况。编码可能还有一些残留问题，但在开发与人类互动的自主代理方面，我们必须开发测试其发展方向的方法。这些系统发展得太快了。
我们需要非常明确的一点是，我们称它们为大型语言模型，是的，它们是基于标记的语言模型，但现在它们是多模态模型。这不仅限于与它们交互——输入内容或使用某些脚本。你可以使用图像、语音和其他输入，它们已经过这些输入的训练。这允许更广泛的与这些系统交互方式，它们在处理来自不同数据流的信息方面变得越来越好。
为精神卫生 workforce 做准备
Paulus：回到培训问题，我们需要建立一个帮助人们熟练掌握与这些系统基本交互的工作体系。这一培训过程必须极其快速地扩展，因为每个人都将受到影响。
当患者进来并说"我的GPT说我应该服用这种药物，而不是那种药物"，"顺便说一下，它给了我这五篇引用。医生，你读过吗？"你会如何回应？我们将面临这些挑战。因此，我们必须培训工作人员来应对这些挑战。代表精神病学家和其他精神卫生工作者的主要组织必须站出来说，"这是我们需要开发的。"
我刚与加拿大一位同事交谈。他们有一个多站点倡议，正在为精神卫生工作者开发课程。也许我们可以从他们那里学习什么有效，因为另一个要素是我们需要弄清楚，由于这是一个新过程，哪些教学方法有效，哪些无效。
为什么临床医生不能忽视AI
Strakowski：Roy，其他想法？作为执业临床医生，在等待我们的组织开始做这些事情的同时（据我所知，目前尚未大规模开展），你如何跟上步伐？
Perlis：像这样的播客和其他关于AI的讨论是很好的起点。实际上，不可行的选择是完全忽视它。目前最大的挑战更多是工程挑战。你可以阅读有关这些工具的信息，但实际实施仍在进行中。
转录员可能是个反例，许多卫生系统已推出它们，许多社区临床医生已开始使用环境转录员。但这些代理系统可以为我们完成的许多其他工作将成为我们使用的健康记录或系统的一部分，但它们尚未到位。
这些代理系统非常了不起，可能会解决我们面临的一些问题，即临床医生感觉AI——以及更广泛的决策支持——导致倦怠，因为它不断催促"你需要做这个。快去做"。其中一些自动化代理系统将提供帮助。但同样，它们也会以类似幻觉的方式"作弊"。例如，当您让代理编写代码并给它一系列测试运行时，在某些情况下，它会声称已运行测试，或更改测试以便获胜。这是一个正在发展的领域，我认为关注它很重要。
但它将深刻改变我们的实践方式。我认为我们没有奢侈地说"我将忽视这些东西"。是否会有私人执业医生说"不使用AI。我的患者来看我，我坐下来与他们交谈50分钟，开处方"？当然会有，但我认为这不会成为精神病学、心理学乃至医学领域的常态。
Strakowski：先生们，非常有趣。这显然是我们必须作为专业人员合作跟上并学习如何使用的东西，因为它将发生。
我建议阅读Perlis博士和Paulus博士撰写的论文。感谢所有观看本次讨论的观众。
Stephen M. Strakowski博士是印第安纳大学医学院精神病学教授兼研究副主任，同时也是印第安纳波利斯理查德·M·费尔班克斯公共卫生学院社区与全球健康系教授。此外，他还在德克萨斯大学奥斯汀分校戴尔医学院担任精神病学教授和区域心理健康副校长。Strakowski还是《情绪与焦虑障碍杂志》的主编。
Roy H. Perlis博士，医学硕士是哈佛医学院精神病学教授，麻省总医院精神病学研究副主任。他的研究重点是应用数据科学和人工智能改善精神障碍的诊断和治疗。
Martin P. Paulus博士是俄克拉荷马州塔尔萨市脑研究所的科学总监和总裁。他的研究重点是计算精神病学、神经成像以及开发基于生物学的工具来改善情绪障碍、焦虑障碍和物质使用障碍的诊断和治疗。
【全文结束】