一位患者因持续性偏头痛来到急诊科就诊。她知道在急诊科能够获得足够强力的药物缓解症状。在等待影像检查以排除危及生命的病因时，她回答了医护人员的提问。
但她不知道的是，医院会将她的临床记录、影像报告和其他可用健康数据输入一个人工智能(AI)模型，该模型经过训练可计算她是否正在经历亲密伴侣暴力(IPV)的风险评分。如今，一些她从未向医疗提供者透露的信息——因害怕被评判、不被相信或得不到支持，以及担心孩子会怎样或伴侣若发现后会做什么而一直隐瞒的内容——已被记录在她的电子病历(EMR)中。
今年春天，一些备受关注的女性被害案件，如牙医瑟琳娜·费尔法克斯和佛罗里达州科勒尔斯普林斯市副市长南希·梅泰耶，令人警醒地提醒我们，亲密伴侣暴力(IPV)仍然普遍存在且广泛发生。当局表示，费尔法克斯是被其丈夫杀害后，丈夫自杀；梅泰耶的丈夫已被正式指控犯有预谋杀人罪。虽然IPV影响所有性别认同的人群，但对女性的影响尤为严重，近三分之一的美国女性一生中会经历亲密伴侣的接触性性暴力、身体暴力或跟踪骚扰。有IPV历史的女性医疗使用率和成本更高，这些影响在暴力结束后仍会持续很久。因此，医疗场所被认为是对女性进行IPV筛查并将其与所需幸存者支持服务联系起来的最佳场所。
人工智能登场。
杨丽博士及其同事最近发表的一项系统综述，识别出41项发表在不同领域的研究，这些研究探讨了AI在IPV预防中的作用。在专注于医疗环境的研究中，深度学习和自然语言处理被用于在临床记录、影像报告和其他类型的医院数据中检测或预测IPV风险。另一项研究能够在幸存者进入暴力预防计划前约3年识别出他们。同时，采用类似方法的人工智能系统已经投入临床实践。自动亲密伴侣暴力风险支持系统(AIRS)利用临床记录和影像报告等数据对患者进行筛查。该系统已在布莱根妇女医院急诊科及其部分初级护理场所实施。
这种做法的出发点极其善意且可以理解。在临床环境中，只有约7%的幸存者会通过传统筛查方法披露IPV。这种筛查通常直接询问患者是否经历过亲密伴侣造成的伤害，如殴打、踢踹或拳击——这种方法可能会使幸存者再次受到创伤。然而，使用AI检测IPV忽视了数十年IPV倡导和研究中的两个重要发现。
首先，许多幸存者希望拥有自主权，能够按照自己的意愿，在对自己合适的时间和地点进行披露。幸存者经常对自身安全进行每日甚至实时的评估；他们非常了解伴侣及其行为模式。一个检测IPV风险的AI系统剥夺了幸存者对是否、何时以及如何向医疗提供者披露的控制权。
对于AIRS系统，根据其网站信息（包括面向临床医生和患者的视频），似乎患者并未被告知他们正在接受筛查，也没有提供允许患者选择退出的选项。只有被医疗团队接触的患者才会知道生成了评分，并可以要求将其从病历中删除。然而，那些评分和其他数据未促使医疗团队联系他们，或者其临床医生未披露该工具的患者，将完全不知道这种筛查已经发生。
这引发了关于知情同意和透明度的根本性问题。它再次证实了幸存者已经对数据如何使用存在的隐私担忧。虽然评分被描述为仅对医疗团队可用，但第三方仍可能通过数据泄露、保险请求或子女监护相关的法院命令访问这些记录。
其次，越来越清楚的是，关于IPV的普遍教育对幸存者有所帮助。这种方法将目标从"要求披露"转变为医疗提供者向所有患者分享信息，包括关系如何影响健康以及如何获取幸存者支持服务。普遍教育的试验与以下结果相关：女性更可能离开感觉不安全的关系，经历IPV的青少年披露率更高，自我报告的社会孤立感降低，以及对幸存者支持服务的认识和连接增加。
虽然AIRS协议确实包含其所谓的"普遍教育"，但它仅在系统发出"阳性警报"后提供，这意味着风险评分较低的患者可能无法获得关于关系和健康方面的教育。此外，我们尚不清楚通过AI识别幸存者是否能改善他们的健康和安全结果。
幸存者希望能够按照自己的节奏进行披露，并在不被评判且尊重其选择的情况下接受治疗。他们希望获得促进健康和安全的服务，如住房、法律援助、经济支持、儿童保育和心理健康服务。幸存者已经说明了他们的需求和愿望，他们也应该能够决定AI在他们的护理中应扮演什么角色（如果有）。
【全文结束】