您的医疗提供者可能正在记录您的心理健康诊疗会话
作者：罗克茜·林，加利福尼亚Matters
2024年，凯撒医疗集团宣布推出Abridge。在一份新闻稿中，这一"环境监听技术"被描述为一款人工智能辅助工具，旨在帮助临床医生（包括心理健康提供者）在患者就诊期间安全记录临床笔记。
但该描述未能指出的是，该工具实际上记录了整个医疗预约过程，包括非常私人的心理健康会话。
在这些会话中，心理健康专业人员在使用该工具前需要获得患者的同意。然而，据多位医疗提供者反映，这一同意过程并未包含关于信息如何处理的解释。它也没有说明录音存储时长、存储位置，以及谁可以访问这些数据。
部分原因是，尽管医疗提供者试图获取这些信息，但这些信息并未与他们共享。
空洞的保证
伊兰娜·马尔库奇-莫里斯选择不在她的患者中使用该平台。她是凯撒医疗集团奥克兰精神科的一名持证临床社工，也是谈判委员会的成员。在这一角色中，她定期与包括北加州心理健康主任在内的凯撒代表会面。
马尔库奇-莫里斯描述了在这些会议中，她和其他委员会成员如何就患者隐私保护、《健康保险流通与责任法案》(HIPAA)合规性以及这些技术使用时的安全保障提出问题。
据她称，领导层的回应通常是空洞的保证："我们是合规的。就是这样。这就是你需要知道的全部。我们已经审核了这项技术，治疗师。别担心。这不是你的工作。我们有技术专家。那是他们的工作，"马尔库奇-莫里斯在接受美国社区媒体采访时说。
"他们不会向我们展示，对吧？我的感觉是，如果你没有什么可隐藏的，并且完全以合乎道德的方式操作，那么你就会向我们展示，证明它。但他们不能，也不会，当我们询问时，他们拒绝了。"
利吉亚·帕切科是一名精神科社工，为南加州的凯撒患者提供远程治疗服务。她说，凯撒也拒绝了她要求提供进一步解释的请求。
在接受美国社区媒体采访时，帕切科回忆说，一位同事曾向主管提出担忧。主管的回应是："在我们的工作环境中表达你对人工智能的个人信念是不专业的。"
对帕切科来说，"这导致士气低落，没有空间为患者发声。我们应该是代表那些处于最脆弱状态前来就诊的患者的声音。而我们甚至不能成为他们的声音，所以我们感到沮丧。"
患者接踵而至
马尔库奇-莫里斯指出，近年来，医疗提供者被要求接诊更多患者。这造成了巨大的压力，需要跟上文档记录和工作量的步伐。
"你就像一个接一个地看患者，几乎没时间去洗手间、吃点零食……呼吸点新鲜空气，"她说。
据马尔库奇-莫里斯称，拒绝处理增加的患者量可能被视为未能达到工作期望。这也可能导致纪律处分。
作为工会代表，她说她经常在与延迟文档或难以管理繁重工作量相关的工作场所调查中代表同事。她说，在这些情况下，管理层经常建议使用Abridge来节省时间并避免进一步的纪律处分。
在她看来，她所知道的使用该技术的医疗提供者并非因为支持或信任它而使用。相反，是因为他们感到压力，需要保护自己的工作并符合工作场所的要求。
"我认为这是一种胁迫，因为你把某人置于要么失去工作，要么使用软件的位置。这是在胁迫下做出的另一个选择，"她解释道。
医疗提供者与患者的担忧
布赖恩·霍伯曼是凯撒医疗集团的首席信息官。在凯撒的一份新闻稿中，他表示："Abridge的先进技术通过减轻文档负担来支持我们医生的福祉。"
他补充道："我们在经过仔细审查和严格测试后实施了这项新技术，发现患者和医生都很欢迎……"
对于至少一位接受本故事采访的患者来说，这样的保证远远不够。
"我担心现在被记录的这类信息可能会落入错误的人手中，"这位出于隐私原因要求不透露身份的患者说。"我可能不希望我的雇主、我的家人，或者其他人知道我和我的医生[和]心理健康提供者进行的这些非常私密和深入的对话。"
阿德里安娜·韦伯是洛杉矶凯撒全景城的一名社工。"我处理的患者有敏感的医学诊断，如……HIV和艾滋病，很多时候我的患者甚至不希望这些内容出现在他们的病历中。"
凯撒医疗集团的一位发言人在美国社区媒体的电子邮件回复中坚称，临床医生在使用Abridge前必须获得患者同意。"没有人会在不知情或未经同意的情况下被录音，"声明中写道。
声明还补充说，录音存储时间不超过14天，数据处理符合所有HIPAA要求以及凯撒医疗集团自身的隐私和安全标准。
"Abridge帮助临床医生将更多时间集中在患者身上，减少行政任务，"声明称。
心理健康数据的武器化
据美国进步中心技术政策高级分析师妮可·阿尔瓦雷斯称，"一个人最低谷时刻的记录可能会以某种方式被用来对付他们，你知道，……这与高血压读数不同。"
她说，由于心理健康状况周围存在的污名，心理健康数据可能特别敏感。对患者而言，这种污名在就业、子女监护权案件、移民事务和安全许可等领域会带来现实后果。她强调，与其他形式的个人数据一样，心理健康信息可能被用来"武器化"对付个人。
她表示，医疗系统与AI供应商之间的协议可能差异很大。这包括与音频录音或转录是否可用于训练AI模型、患者数据是否匿名化、数据保留时间长短、是否可以与其他客户共享，以及合同结束后信息如何处理等相关条款。
凯撒坚称其收集的任何数据都不会用于训练AI模型。
然而，根据阿尔瓦雷斯的经验，患者通常对这些安排知之甚少。她认为，医疗系统有责任清楚地披露患者信息如何被处理和使用。
阿尔瓦雷斯还强调，在大多数情况下，患者有权拒绝录音。但是，她说，退出流程并不总是清晰呈现。据她称，同意选项可能从登记时的直接问题到埋在入院文件中的文字不等，因此患者仔细审查表格和披露内容非常重要。
她说，有意义的同意要求患者不仅要知道自己正在被录音并且可以拒绝，还要了解他们的信息之后可能如何存储、共享或使用。
胁迫性同意
帕切科在凯撒的一次个人预约中经历了这种情况。她的医生没有询问使用该应用程序的许可，而是告知她将使用它。片刻之后，她决定拒绝使用该平台。尽管医生停止了录音，但她感觉医生之后的态度明显不舒服。
她后来决定更换医生。
马尔库奇-莫里斯担心类似的情况。她说，公司在预约期间获取使用Abridge同意的方式可能感觉具有操纵性和胁迫性。在她看来，医疗提供者被培训以一种将患者和医生的需求对立起来的方式来介绍该工具。
她解释说，患者通常被告知该系统将帮助医生进行文档记录，减少职业倦怠，并让他们有更多时间与家人相处。因此，患者可能会因为不想让提供者的工作更困难而感到内疚，从而拒绝使用该工具。
她认为，这种框架迫使患者同意，而不是让他们做出完全舒适和独立的决定。
据凯撒称，Abridge在"8个州和哥伦比亚特区的40家医院和600多家医疗机构"可用，这是医疗行业更广泛采用AI技术的一部分。Abridge支持14种以上的语言。
美国社区媒体多次联系Abridge AI公司寻求评论，但未收到回复。根据该公司的网站，Abridge将自己描述为医疗提供者的"业务关联方"。患者被建议查阅提供者的隐私政策，了解其数据如何受到保护。
"治疗在隐私环境中最有效，当信任通过两个人类建立时，"马尔库奇-莫里斯说。对她来说，"治愈发生在人类同理心作为任何心理健康治疗关系的一部分被真诚提供时。"
她补充道："我相信记录治疗会话会改变人类行为。它改变了患者的态度。"
罗克茜·林是加州大学伯克利分校新闻研究生院的加州地方新闻研究员。
本文最初发表于加利福尼亚Matters，并在知识共享署名-非商业性使用-禁止演绎4.0国际许可下重新发布。
【全文结束】