作者：罗克西·林（Roxsy Lin），CalMatters
本文最初由CalMatters发布。请订阅他们的新闻通讯。
本文最初由美国社区媒体（American Community Media）发布。
2024年，凯撒医疗集团（Kaiser Permanente）宣布推出Abridge。在新闻稿中，这款由人工智能驱动的记录工具被描述为"环境监听技术"，旨在帮助包括心理健康提供者在内的临床医生在患者就诊期间安全记录临床笔记。
但该描述未能指出的是，该工具会记录整个医疗预约过程，包括极为私密的心理健康诊疗环节。
在此类诊疗中，心理健康专业人员按规定必须在使用该工具前获得患者的同意。然而，据多位医护人员反映，同意过程并未包含有关信息如何处理的说明，也未提及录音存储的时间、地点以及谁有权访问这些数据。
这种情况部分原因是，尽管医护人员曾试图获取这些信息，但医疗机构并未向他们提供。
"空洞的保证"
伊兰娜·马尔库奇-莫里斯（Ilana Marcucci-Morris）选择不在患者诊疗中使用该平台。她是奥克兰凯撒精神病学部门的持证临床社会工作者，也是谈判委员会成员。在这一角色中，她定期与包括北加州心理健康主任在内的凯撒代表会面。
马尔库奇-莫里斯描述了在这些会议中，她和其他委员会成员如何就患者隐私保护、HIPAA（健康保险流通与责任法案）合规性以及这些技术使用的安全保障措施提出疑问。
据她所述，管理层的回应往往是空洞的保证："我们合规。就这样。这就是你需要知道的全部。我们已经对技术进行了审查，治疗师。别担心。这不是你的工作。我们有技术专家。那是他们的工作。"马尔库奇-莫里斯在接受美国社区媒体采访时如是说。
"他们不会向我们展示，对吧？我的感觉是，如果你没有什么可隐瞒的，并且你完全……合乎道德地操作，那么你就会向我们展示，证明这一点。但他们不能，也不愿意，当我们询问时，他们拒绝提供。"
利吉亚·帕切科（Ligia Pacheco）是一位为南加州凯撒患者提供远程治疗服务的精神病社会工作者。她说凯撒也拒绝了她要求提供更多解释的请求。
在接受美国社区媒体采访时，帕切科回忆说，一位同事曾向主管提出担忧。得到的回应是："在工作环境中表达你对人工智能的个人信念是不专业的。"
对帕切科而言，"这导致士气低落，没有为患者发声的空间。我们应该成为那些处于最脆弱状态前来就诊的患者的声音。而我们甚至无法为他们发声，所以我们感到沮丧。"
"一位又一位患者"
马尔库奇-莫里斯指出，近年来医护人员被要求接诊更多患者，这给文档记录和工作量带来了巨大压力。
"你就像一位又一位患者接着一位又一位患者地看诊，几乎连上厕所、吃点零食……呼吸新鲜空气的时间都没有，"她说。
据马尔库奇-莫里斯称，拒绝管理增加的患者量可能被视为未能达到工作期望，甚至可能导致纪律处分。
作为工会代表，她说她经常在与延迟文档记录或难以管理大量病例相关的工作场所调查中代表同事。在这些情况下，她说管理层经常建议使用Abridge来节省时间并避免进一步的纪律处分。
在她看来，她所知道的使用该技术的医护人员并非因为支持或信任它，而是因为他们感到压力，需要保护自己的工作并遵守工作场所的要求。
"我认为这具有强制性，因为你把某人置于要么失去工作要么使用该软件的境地。这是另一种在胁迫下做出的选择，"她解释道。
医护人员与患者的担忧
布莱恩·霍伯曼（Brian Hoberman）是永久医学集团（The Permanente Medical Group）的首席信息官。在凯撒的一份新闻稿中，他表示："Abridge的先进技术通过减少文档负担来支持我们医生的福祉。"
他补充说："我们在经过仔细审查和严格测试后实施了这项新技术，并发现患者和医生都对此反应良好……"
然而，对于至少一位接受本故事采访的患者来说，这些保证远远不够。
"我担心现在正在记录的这类信息可能会落入错误的人手中，"这位出于隐私原因要求匿名的患者说。"我可能不希望我的雇主知道，我可能不希望我的家人知道，我可能不希望人们知道我与医生以及心理健康提供者之间一些非常私密和深入的对话。"
阿德里安娜·韦伯（Adriana Webb）是洛杉矶凯撒全景城（Kaiser Panorama City）的一名社会工作者。"我服务的患者中有敏感的医疗诊断，比如……HIV和艾滋病，很多时候我的患者甚至不希望这些信息出现在他们的病历中。"
凯撒医疗集团的一位发言人在给美国社区媒体的电子邮件回复中坚称，临床医生在使用Abridge前必须获得患者同意。"没有人会在不知情或未经同意的情况下被录音，"声明中写道。
声明还称录音存储时间不超过14天，数据处理符合所有HIPAA要求以及凯撒医疗集团自身的隐私和安全标准。
"Abridge帮助临床医生将更多时间专注于患者，减少行政任务，"声明表示。
将心理健康数据武器化
据美国进步中心（Center for American Progress）技术政策高级分析师妮可·阿尔瓦雷斯（Nicole Alvarez）称，"某人最低谷时刻的记录可能会以某种方式被用来对付他们，而高血压读数则不会。"
她说，由于围绕心理健康状况的污名，心理健康数据可能特别敏感。对患者而言，这种污名在就业、子女监护权案件、移民事务和安全许可等领域带来现实后果。她强调，与其他形式的个人数据一样，心理健康信息也可能被用来对付个人。
她表示，医疗机构与AI供应商之间的协议可能差异很大，包括与音频录音或转录是否可用于训练AI模型、患者数据是否经过匿名化处理、数据保留时间、是否可以与其他客户共享以及合同结束后信息如何处理相关的条款。
凯撒坚称其收集的任何数据都不会用于训练AI模型。
然而，根据阿尔瓦雷斯的经验，患者通常对这些安排知之甚少。她认为医疗机构有责任清楚地披露患者信息的处理和使用方式。
阿尔瓦雷斯还强调，在大多数情况下，患者有权拒绝录音。但她说，退出流程并不总是清晰呈现。据她称，同意选项可能从登记时的直接问题到埋藏在入院文件中的语言不等，因此患者仔细审查表格和披露内容非常重要。
她说，有意义的同意要求患者不仅要知道自己正在被录音并且可以拒绝，还要了解他们的信息可能如何被存储、共享或后续使用。
强制性同意
帕切科在凯撒的一次个人预约中体验到了这一点。她的医生没有询问是否可以使用该应用程序，而是告知她将使用它。片刻之后，她决定拒绝使用该平台。尽管医生停止了录音，但她感觉医生之后的态度明显变得不自在。
后来她决定更换医生。
马尔库奇-莫里斯对这种情况表示担忧，她说公司在预约期间获取使用Abridge同意的方式可能具有操纵性和强制性。在她看来，医护人员被训练以将患者和医生的需求相互对立的方式来介绍该工具。
她解释说，患者经常被告知该系统将帮助医生进行文档记录、减少职业倦怠，并允许他们有更多时间陪伴家人。因此，患者可能会因为不想让他们的提供者工作更困难而感到内疚，从而拒绝使用该工具。
她认为这种框架迫使患者同意，而不是让他们能够做出完全舒适和独立的决定。
据凯撒称，Abridge在"40家医院和8个州及哥伦比亚特区的600多家医疗办公室"可用，这是医疗行业更广泛拥抱AI技术的一部分。Abridge支持14种以上语言。
美国社区媒体多次联系Abridge AI公司寻求评论，但未收到回应。根据该公司网站，Abridge将自己描述为提供者的"业务关联方"。患者被建议查阅提供者的隐私政策，了解其数据如何受到保护。
"治疗在隐私中最为有效，当通过两个人类之间建立信任时，"马尔库奇-莫里斯说。对她而言，"治愈发生在真诚提供人类同理心作为任何心理健康治疗关系的一部分时。"
她补充说："我相信记录治疗会改变人类行为。它改变了患者的举止。"
罗克西·林是加州大学伯克利分校新闻学院的加州本地新闻研究员。
本文最初发表于CalMatters，并根据知识共享署名-非商业性使用-禁止演绎4.0国际许可协议重新发布。
【全文结束】