在本周其首席执行官遭枪杀之后，UnitedHealthcare因其据称存在缺陷的AI算法而受到更多审查，该算法会覆盖医生的意见，拒绝老年患者关键的医疗保健覆盖。
UnitedHealthcare首席执行官布莱恩·汤普森（Brian Thompson）于12月4日在纽约市一家酒店外遭到有针对性的袭击身亡。枪手骑着电动自行车逃离现场，留下带有疑似动机相关消息的弹壳（弹壳上写着“adeny”、“adefenda”和“adepose”），但实际意图尚不清楚。
许多人猜测，这起谋杀可能与高治疗拒绝率或UnitedHealthcare（UHC）直接拒绝支付某些护理费用有关。医疗保健提供者和保险公司一直在使用生成式AI（genAI）工具自动化护理请求的响应，这些工具被指责产生极高的拒绝率，在某些情况下，比正常高出16倍。
UHC使用了一种名为nH Predict的生成式AI工具，该工具在去年的一起联邦诉讼中被控诉过早地让患者出院，迫使他们耗尽储蓄以获得必要的治疗。该诉讼在明尼苏达州联邦法院提起，指控UHC非法使用错误率为90%的AI模型拒绝Medicare Advantage护理，覆盖医生关于费用医疗必要性的判断。
根据诉讼，UnitedHealth于2019年11月开始使用nH Predict。nH Predict由总部位于美国的健康科技公司NaviHealth（现为UnitedHealth Group的一部分）开发，是一种专有评估工具，用于设计个性化治疗计划并推荐护理环境，包括医院出院时间。
尽管错误率很高，被告仍继续系统性地使用其有缺陷的AI模型拒绝索赔，因为他们知道只有极少数保单持有人（约0.2%）会提出申诉，而绝大多数人要么自费支付，要么放弃剩余的处方后期护理。被告利用患者的身体状况不佳、缺乏知识和资源来申诉AI驱动的错误决定。
去年，UnitedHealth Group及其药品服务子公司Optum在国会批评其用于拒绝患者护理支付的算法后，重新品牌化了NaviHealth。最近，美国参议院常设调查小组委员会在10月份的一份报告中批评UHC、Humana和CVS优先考虑利润而非患者护理。
“无论数据中的决策是由预测技术还是人为判断做出的，迄今为止获得的数据都令人担忧。它表明Medicare Advantage保险公司有意针对成本高昂但至关重要的医学领域——用财务收益的计算替代医疗必要性的判断。”报告中写道。
nH Predict分析数百万条医疗记录，包括年龄、诊断和既往病史等患者数据，以预测每位患者所需的护理类型和持续时间。nH Predict因其高错误率、提前终止患者治疗支付（尤其是老年人和残疾人士）、决策不透明以及加剧健康不平等的潜力而受到批评。
UHC拒绝就其使用生成式AI工具发表评论，而是发布了一份声明，说明其如何处理CEO去世的问题。
医疗保健行业和保险公司长期以来一直采用AI和生成式AI，提供者现在利用这些技术简化诸如笔记记录和总结患者记录等任务。该技术还被用于评估放射学和心电图结果，并预测患者发展和恶化疾病的风险。
保险公司使用AI自动化诸如事先授权等流程，即提供者或患者必须在接收特定医疗服务、程序或药物之前获得保险公司的批准。AI驱动自动化的高拒绝率令医生感到沮丧，促使他们使用AI工具自行起草申诉。
哮喘药物、新的减肥药物和生物制剂（一类可以挽救生命、适用于自身免疫疾病甚至癌症患者的药物）通常被保险公司拒绝覆盖。数据显示，临床医生很少多次申诉拒绝，最近的一项美国医学会调查显示，93%的医生报告了与事先授权相关的护理延迟或中断。
“通常，任何昂贵的药物都需要事先授权，但拒绝往往集中在保险公司认为有更便宜替代品的地方，即使这些替代品效果较差。”布朗大学公共卫生学院院长阿什什·库马尔·贾（Ashish Kumar Jha）博士在接受《计算机世界》采访时解释道。贾同时也是布朗大学卫生服务、政策与实践教授，曾在2022年和2023年担任白宫COVID-19应对协调员。
贾表示，虽然事先授权多年来一直是主要问题，但最近才使用AI来加速这一过程，从而批量拒绝。这些拒绝迫使医生每周花费数小时代表患者挑战这些决定。
生成式AI技术基于大型语言模型，这些模型接受大量数据的训练。然后，人们通过称为提示工程的技术训练模型如何回答查询。
“因此，过去10到15年来保险公司越来越多地拒绝各种服务的做法——他们现在已经将这些做法输入数据库，训练他们的AI系统，这使得保险公司的流程更快、更高效。”贾说，“这在过去几年里引起了广泛关注。”
周三枪击案的嫌疑人尚未被捕，也未有任何关于动机的说法。
(全文结束)
