算法拒绝人类医疗服务

Algorithms Deny Humans Health Care

最近，美国最大的医疗保险公司联合健康集团前首席执行官布莱恩·汤普森被谋杀事件引发了对保险公司做法的广泛讨论。

其中一个备受关注的做法是医疗保险公司使用人工智能（AI）算法来拒绝患者的保险覆盖。在即将发表的一篇文章中，印第安纳大学莫勒法学院教授詹妮弗·D·奥利瓦认为，使用未经监管的覆盖算法导致了不正当的索赔拒绝和患者治疗延误，最终对患者造成了致命后果。她指出，近期联邦政府对这些算法的改革努力是不够的，因为它们未能解决关键问题，如漫长的申诉过程，并且仅适用于特定的政府项目。

奥利瓦认为，美国食品药品监督管理局（FDA）已经拥有对覆盖算法进行监管的权限，并敦促该机构采取行动。

在美国，医疗服务提供者通过按服务收费的方式获得报酬，这意味着他们根据所提供的每项服务或程序获得支付。保险公司认为这种模式鼓励了大量的高成本服务，从而削减了他们的利润。因此，医疗保险公司对越来越多的医疗程序和治疗方法进行了强制性的审查过程，然后才提供医疗服务。

然而，这些手动审查过程耗时长、容易出错且资源密集，导致了患者治疗的延误。

为了控制成本并减少延误，一些保险公司设计了AI算法来自动化这一过程。

在提供护理之前，保险公司使用这些算法来确定特定的、由医生推荐的治疗方案是否“医学上必要”，以及该治疗是否符合患者的保险计划覆盖范围，奥利瓦解释道。

然而，奥利瓦指出，采用AI技术导致了索赔拒绝率的显著增加。根据参议院常设调查小组委员会的一份报告，在实施算法自动化审查过程后，联合健康集团在2020年至2022年间对出院后护理的拒绝率翻了一番多。

许多这些覆盖拒绝都是错误的和非法的，奥利瓦声称。她提到了一起针对联合健康集团的集体诉讼，指控其AI算法错误地拒绝了索赔。投诉称，大约90%的联合健康集团的拒绝决定在上诉中被联邦行政法官推翻。

奥利瓦解释说，这些拒绝对于患者来说是毁灭性的，他们被迫要么忍受漫长而昂贵的申诉过程，要么自掏腰包——这对普通美国人来说是不可行的。保险公司有财务动机拒绝索赔，因为不到1%的患者会上诉，其他患者可能无法活到完成整个过程，奥利瓦指出。

然而，奥利瓦认为，最近对这些算法的监管措施是不够的。

医疗保险和医疗补助服务中心（CMS）发布了一项规则，要求覆盖决定必须“考虑”患者的个人情况，但允许医疗保险优势组织使用算法来“协助”做出这些决定。

奥利瓦认为，这项规则缺乏对实施覆盖算法的保险公司的重要指导。例如，它没有明确规定如何“使用”算法，或者保险公司应该如何在审查过程中“考虑”个人情况，奥利瓦表示。

CMS还发布了一项旨在简化预授权流程并提高透明度的规则。该规则要求保险公司披露哪些医疗项目和服务需要预授权，向提供者和患者提供具体的拒绝理由，并报告有关预授权决定的信息。

奥利瓦认为，这项规则未能解决审查过程中的许多长期存在的问题。例如，它没有澄清保险公司如何决定哪些服务需要预授权，用于这些决定的标准，或如何解决繁琐的申诉过程，奥利瓦解释道。

此外，CMS的规则不适用于雇主赞助的健康计划，而这些计划在2023年覆盖了美国60.4%的65岁以下人口，奥利瓦指出。

奥利瓦认为，需要更严格的监督来确保这些算法在被医疗保险公司使用之前“准确、有效和公平”。她认为FDA已经拥有监管这些算法的权力。

根据《食品、药品和化妆品法》，FDA被授予对“医疗器械”的上市前审批权和扩展的上市后监管权。奥利瓦认为，覆盖算法符合“医疗器械”的定义，因为它们通过接受或拒绝覆盖来做出医疗保健治疗决定。

然而，如果提供者能够“独立审查算法覆盖拒绝的基础”，某些医疗器械可以免于机构监管。要符合这一豁免条件，制造商必须描述“生成建议的输入”和“提出建议的基础”等细节。奥利瓦指出，保险公司声称他们的算法是专有的，这阻止了他们满足这些透明度要求。

即使保险公司能够满足这一例外的要求，如果算法“有可能产生严重的不良健康后果”，它们仍然会受到FDA的监管。鉴于患者因治疗拒绝而面临的重大健康结果，这些覆盖算法不符合豁免条件，奥利瓦声称。

面对世界上最高的医疗费用之一，被拒绝保险覆盖的美国人可能会面临生死攸关的后果。奥利瓦警告说，覆盖算法可能会加剧以利润为导向的保险公司与依赖及时和适当护理的患者之间的利益冲突。她呼吁FDA对这些算法进行监管，以确保其在做出改变生活的决定之前是准确和公平的。

(全文结束)