当AI把利润置于同情之上 —— Wim Laven的观点Commentary: When AI puts profit over compassion — Wim Laven

环球医讯 / AI与医疗健康来源:www.myjournalcourier.com美国 - 英语2024-12-18 15:00:00 - 阅读时长3分钟 - 1420字
本文探讨了AI在医疗保健领域的应用,特别是在保险理赔决策中的角色,引发了公众对AI伦理和社会责任的广泛讨论。作者通过类比“暮光之城”中的思想实验,揭示了AI在医疗决策中可能带来的道德困境。
AI医疗保健保险公司利润同理心索赔拒绝结构性暴力患者权益高质量医疗保健
当AI把利润置于同情之上 —— Wim Laven的观点

我的朋友们指责我过于抽象。“医疗保健与‘暮光之城’有什么关系?”他们问道。但AI不正是这种关系的代表吗?

Wim Laven

特约撰稿人

在联合健康集团(United HealthCare)首席执行官被杀后,社交媒体上充满了愤怒,大部分针对的是拒绝提供治疗的保险公司。

我在社交媒体上看到了来自我认识的人的报道。他们和我一样表达了这样的观点:谋杀不是解决问题的方法,但他们详细描述了因保险索赔被拒而遭受的痛苦,这些拒绝往往是因为保险公司使用AI来评估“需求”。

我们的同理心使我们成为人类。我看到我的朋友们在应对这场伦理危机时表现出这种同理心:“射杀他是不对的,但是……”一个朋友说这揭示了一个真实的问题;另一个朋友则说:“他们不需要他在投资者会议上——什么都不会改变。”

令我的朋友们感到惊讶的是,他们知道我已经抱怨医疗保健保险超过十年了。他们知道我质疑是否有一个更好的系统可以在我兄弟33岁时挽救他的生命,但这次我给出了不同的回应。

在“暮光之城”的早期一集中(“按钮,按钮”),有一个思想实验:一个普通人是否愿意为了大笔金钱杀死一个完全陌生的人?要完成这个任务,只需按下一个按钮,一个他们不认识的人就会死亡,而他们会得到报酬。

现在,我的朋友们指责我过于抽象。“医疗保健与‘暮光之城’有什么关系?”他们问道。但AI不正是这种关系的代表吗?

AI只是那个按钮的替代品。AI是一个程序,它拒绝索赔,阻止人们获得维持生命的治疗。

在课堂上,我经常谈论暴力。大多数时候,人们想到的是直接暴力,如身体攻击、谋杀或战争。但也有间接暴力的形式,它们可能是文化上的、结构性的或系统的。我最常讨论的一种是关于准入问题。

保罗·法默(Paul Farmer)是一位致力于为无法负担医疗费用的人提供医疗服务的医生,他提供了一个精彩的描述:

“‘结构性暴力’是一种描述社会安排的方式,这些安排使个人和群体处于危险之中……这些安排是结构性的,因为它们嵌入在我们社会世界的政经组织中;它们是暴力的,因为它们对人们造成伤害(通常不是那些负责延续这种不平等的人)。很少有临床医生受过训练去理解这些社会力量,也没有受过训练去改变它们。然而,长期以来已经明确,如果我们无法理解疾病的社交决定因素,许多医学和公共卫生干预措施将会失败。”

这一定义是对以下观察的回应:

“由于接触患者,医生们很容易意识到大规模的社会力量——种族主义、性别不平等、贫困、政治暴力和战争,有时甚至是解决这些问题的政策——往往决定了谁会生病,谁可以接受治疗。对于公共卫生从业者来说,疾病的社交决定因素更难忽视。”

我对医务人员表示关切。他们工作非常努力,却因治疗结果不佳而受到很多个人层面的责备。

保险公司显然将生死攸关的医疗决策外包给了AI,并且他们甚至可能将其归咎于对股东最大化利润的责任。保险公司规定了我们治疗路径的许多方面,以至于我们很容易忘记他们的主要存在目的不是提高患者的生活质量,而是生成利润。

医生宣誓:“首先,不伤害。”然而,保险公司却没有这样的义务。越来越多的公众正在为此付出代价,我真的希望我们可以将叙事从对这些公司行为的报复和血腥反应转变为推动变革,从而让每个人都能获得高质量的医疗保健。通过人民的力量,我们可以实现这一必要的变革。

Wim Laven,由PeaceVoice特约撰写,教授政治学和冲突解决课程。

2024年12月18日

Wim Laven


(全文结束)

大健康
大健康