上周，我们分享了九个记者可以在 STAT News 出色报道的系列“AI拒绝”之后跟进的故事。Bob Herman 和 Casey Ross 的文章详细描述了使用人工智能驱动的算法协助医生和保险案件经理为患者做出医疗决策的危险。他们的报道显示，UnitedHealth Group 在许多情况下使用该算法推翻临床判断，并拒绝严重疾病患者的康复护理。该系列报道入围普利策调查报道奖（全文可在该链接中找到），并在 AHCJ 的年度健康护理新闻奖中获得第二名。今天，我们将进一步讨论该系列报道及其揭露的问题，特别是算法拒绝护理如何为保险公司带来利润，而公司却将几乎无法自理的患者送回家。这是一个调查报道的典范，也是 AI 使用中的一个反面教材。
算法至上
近年来，保险公司越来越多地采用算法来预测患者需要多少小时的治疗、可能看哪些类型的医生以及何时可以出院或离开疗养院。Herman 和 Ross 报道称，UnitedHealth Group 使用的算法称为 nH Predict，该算法会考虑患者的诊断、年龄、生活状况和身体功能等细节，将其与从多年与提供者合作中收集的 600 万患者数据库中的类似患者进行匹配。然后，它生成对患者移动能力和认知能力的评估，以及对其医疗需求、预计住院时间和出院日期的预测。理论上，这有助于规划。但该系列报道揭示了 UnitedHealth 的子公司 NaviHealth 如何设定目标，要求病例经理将参加医疗保险优势（MA）计划的患者在疗养院康复停留的时间控制在算法预测天数的 3% 以内，后来这一范围被缩小到 1% 以内。同时，没有考虑到患者健康状况的变化。即使员工认为患者需要更多时间康复，公司的医生医疗评审员也会遵循算法，“引发内部异议，认为这些拒绝是不适当的，违反了明确的医学证据”，记者写道。公司还指示一线护理协调员安排患者进展审查，以便他们可以在算法预测的确切日期出院。该报道基于对 NaviHealth 内部通讯的审查、五名前员工、患者家属、律师和保险覆盖及数学建模专家的采访。“我们的调查揭示了算法的使用导致患者在中风、癌症等严重疾病恢复期间过早支付拒绝的情况”，Herman 和 Ross 写道。“我们追求这个故事是因为人们应该知道他们签署的是什么，以及当他们最脆弱时，他们的医疗保险优势覆盖是如何运作的。”
利润至上
STAT 的系列报道表明，医疗保险优势计划的保险公司已经获得了可观的利润，而当算法说应停止护理时，这些保险计划可以通过进一步提高利润，尽管一些患者遭受了严重的后果。当然，健康保险公司拒绝护理并不是新现象，正如联邦卫生与公共服务部监察长办公室在 2022 年所显示的那样。但 Herman 和 Ross 发现，AI 将健康保险公司拒绝护理的情况推向了新的高度。根据 KFF 今年 8 月的报告，在超过 6120 万医疗保险成员中，54%（3280 万人）今年参加了医疗保险优势计划。“保险公司正在利用未经监管的预测算法，以科学严谨的名义，精确地确定他们可以合理地切断老年患者治疗支付的时刻”，Herman 和 Ross 解释道。“随后的拒绝引发了医生和保险公司之间的激烈争端，通常会延迟严重疾病患者的治疗，而这些患者既不知道算法的存在，也无法质疑其计算结果。”如果老年人或其亲人需要自费支付护理费用，他们可以对拒绝提出上诉，然后花费数月等待可能不利于他们的决定，记者解释道。或许在医疗保健中使用 AI 最令人担忧的是，算法在患者护理开始之前就已经就位。然后，这些算法不仅做出了未能考虑每个患者具体情况的建议，而且还与医疗保险要求计划覆盖的规定相冲突。症状严重需要多学科专家护理的中风并发症患者被阻止入住康复医院。截肢者被拒绝接受旨在帮助他们从手术中恢复并学会无肢体生活的护理。逆转这些看似错误的决定的努力毫无进展。NaviHealth 没有发布任何科学研究来评估其 nH Predict 算法的实际表现，Ross 和 Herman 写道。该公司在其内部测试性能的程度上，也没有在 STAT 发布该系列报道时公开这些结果。该公司也未回应 STAT 关于其算法使用的问题，Herman 和 Ross 写道。然而，一位发言人表示，该算法“不是用于做出覆盖决定”，而是“帮助我们向提供者、家庭和其他护理人员告知患者在设施内和回家后可能需要的协助和护理”。
资源
- “一些医疗保险优势组织对预先授权请求的拒绝引发了对受益人获得必要医疗护理的担忧”，美国卫生与人类服务部监察长办公室，2022年4月27日。
- “AI拒绝”，STAT，2023年。
(全文结束)
