两年来，莫莉·奎因(Molly Quinn)一直向她的治疗师倾诉一些她从未告诉过其他人的事情。
因此，当她的治疗师提到尝试使用人工智能工具来做笔记时，奎因没有立即拒绝。这位来自阿肯色州费耶特维尔(Fayetteville)的31岁图书管理员要求先研究一下。
她想了解她的话语会去往何处——是会保留在本地，还是会在云端的某个地方被处理。
回放那天的咨询过程
那天的咨询继续进行，但进行到一半时，奎因注意到有些不同。
"她不像往常那样做笔记，"奎因说。"平板电脑只是架在那里。"
就在那时，奎因意识到咨询过程正在被录音。
奎因说她一时僵住了。但随后她继续说话。
直到她走出治疗师的办公室，她才真正意识到这件事的分量。
"我越想越觉得胃里翻江倒海，"她说。"这个我应该能够信任、可以向其倾诉非常私密和强烈情绪的人，完全无视了我说过我不舒服的事情。我感到完全被侵犯了。"
她开车回家，脑海中不断回放着那次咨询，不确定接下来该怎么办。
新公司推出的新工具
在美国各地，越来越多的治疗师正在尝试使用人工智能工具来记录咨询过程、生成文字记录并自动起草临床笔记。软件公司表示，这些工具每周可以节省数小时的行政工作时间。
一家名为Berries的公司将其平台宣传为一种减轻文书工作的方式，让治疗师能够更专注于客户，并在个人生活中获得更好的工作与生活平衡。
该公司联合首席执行官塔尔·萨勒曼(Tal Salman)告诉NPR："Berries旨在减轻行政负担，同时不干扰治疗体验本身。它支持临床医生更专注于他们的客户。"
激活后，该系统会记录对话，将其转录并生成一份临床笔记草稿供治疗师审核。治疗师可以编辑、修改或丢弃草稿。他们也可以将其保存到医疗记录中。
隐私规则
萨勒曼表示，音频会实时处理并立即删除，文字记录存储在美国符合HIPAA（《健康保险流通与责任法案》，一项限制医疗信息发布的联邦法律）的服务器上。他还补充说，该公司不会使用治疗内容来训练其AI模型。
"治疗会话内容保持私密，不会被重新用于训练，"萨勒曼说。"临床医生仍对患者护理和最终文档负全责。"
其他向心理健康治疗师提供类似服务的公司包括SimplePractice和Blueprint。这些公司通常收取每月19至99美元的费用，这对经常被行政任务压得喘不过气的独立执业者很有吸引力。
研究表明，患者可能对治疗中的人工智能工具有所接受，但这种舒适感是有限的。YouGov进行的一项全国性调查发现，美国人对使用AI进行心理健康护理仍持犹豫态度。只有约11%的人表示愿意使用它，仅8%的人表示信任它。近一半的受访者表示不愿意使用该技术。许多人指出，缺乏人类理解是一个主要担忧，同时还担心建议不准确和隐私问题。
这些担忧不仅限于治疗本身。
健康研究组织KFF的另一项调查显示，约77%的美国人担心他们的健康信息将如何被AI系统存储和使用。
研究人员表示，在心理健康护理中，好奇心与信任之间的差距变得更加明显，因为这里的对话非常私密。他们指出，即使患者愿意尝试该技术，许多人仍然更喜欢人类治疗师带来的安心感。
纽约大学格罗斯曼医学院(NYU Grossman School of Medicine)医学伦理学助理教授凯莉·欧文斯(Kellie Owens)表示，像HIPAA合规这样的隐私保护并不能消除数据泄露的可能性。
"无论我们采取什么保护措施，这并不意味着数据不会被泄露，"欧文斯说。"有很多完全符合HIPAA的系统仍然经历了重大数据泄露。"
她说，在治疗中，风险尤其敏感，因为患者分享非常私密的信息。
有意义的同意？
欧文斯表示，除了技术风险外，仅靠书面同意表格可能还不够。
"我们有大量的研究表明，仅凭同意表格并不意味着一个人正在做出知情选择，"她说。"人们会快速浏览、不阅读或感到有压力而同意。"
欧文斯表示，录音应该始终直接讨论。
"每次你录音时，都应该进行口头交流，说明录音正在进行，"她说。
她说，信任和心理安全感是有效心理健康治疗的基础。
"如果患者感到隐私受到侵犯，这可能对治疗关系造成真正的损害，"欧文斯说。
对莫莉·奎因来说，这些风险并非抽象概念。
近年来，医疗系统和大型公司多次面临数据泄露，奎因担心增加另一层技术会增加某天暴露极其私密对话的可能性。
"我们会看到数据泄露，"她说。"也许不是明天，也许不是下周。但几年后？我认为我们会看到。我不想让我的治疗会话成为其中的一部分。"
AI倾听者，不同的体验
对一些治疗师来说，担忧不仅仅是网络安全问题。
纽约的夫妻和性治疗师玛丽莎·科恩(Marisa Cohen)表示，将AI引入治疗会改变体验，即使技术退居幕后。
"即使AI的存在也会改变治疗体验，"科恩说。"客户知道或感觉有其他东西在听他们说话。这种意识可能会微妙地改变他们的披露。"
她说，治疗依赖于绝对隐私的感知。
"当你引入被电子存储的内容时，它会引发关于信任和安全的额外问题，"科恩说。"这本质上是第三方。"
科恩也担心准确性。
"如果引入错误而临床医生没有仔细检查笔记，那么这个错误现在就成了记录的一部分，"她说。"如果这些笔记被传唤，就会成为某人历史的一部分。"
对一些治疗师的福音
一些临床医生欢迎这项技术。
在网上自称"旅行治疗师"(The Traveling Therapist)的基姆·托尔森(Kym Tolson)已经执业30年，现在经营一家完全远程的业务，为弗吉尼亚州的客户提供服务，同时全职旅行。她使用AI录音和文档系统来管理她所描述的繁重行政工作量。
"大多数临床医生每周花大约10小时在行政任务上，其中5到7小时是文档工作，"托尔森说。"使用AI系统后，我每名客户只需花费约两分钟，而以前需要15到20分钟。"
她说，对于服务20到30名客户的治疗师来说，这种差异是显著的。
"它让我重获新生，"托尔森说。"我不再被笔记困扰。看完客户后，我审核笔记，签字，就完成了。"
托尔森表示，这种灵活性使她能够保持更健康的工作与生活平衡，并将更多时间集中在客户身上，而不是文书工作上。她说，许多客户对她的移动生活方式反应积极，经常在咨询期间询问她在哪里工作。
医疗保健其他领域的研究表明，节省的时间可能相当可观。在凯撒医疗集团(Permanente Medical Group)对AI听写员的一项大型分析中，临床医生在一年内节省了相当于近16,000小时的文档时间——大约1,800个工作日——并报告了满意度和患者互动的改善。该研究主要关注医疗临床医生而非治疗师，但它突显了这些工具旨在解决的行政负担。
托尔森表示，她事先与客户详细讨论录音过程，并明确表示参与是可选的。她还在笔记成为医疗记录的一部分之前，对每个AI生成的笔记进行审核。
"有时它会产生幻觉，"她说。"临床医生必须非常小心。你必须双重甚至三重检查。"
虽然她承认没有数字系统是完全无风险的，但托尔森表示，她使用该工具的舒适度与使用电子健康记录相当。
与不同的临床医生重新开始
对莫莉·奎因来说，关于AI记笔记的对话将始终追溯到那个11月的会话，也就是她意识到自己在未经同意的情况下被录音的那次。
之后，她取消了下一次预约。
她的治疗师说他们可以停止使用该工具。但到那时，奎因说，关系中似乎有什么东西破裂了。
"信任消失了，"她说。
在接下来的几周里，她开始寻找新的人选。到1月份，她找到了另一位治疗师，从一开始，她就明确表示不希望在她的会话中使用AI。
这次经历并没有让她远离治疗本身，但她对自己的界限仍然很坚定。
"这是私密的对话，"奎因说。"科技公司不应该在房间里。"
【全文结束】
