迅速发展的**人工智能（AI）**可能成为自互联网诞生以来最具影响力的科技现象。然而，这项技术也充满了滥用的潜在风险。一个早期采用AI的行业是医疗保健，全国各地的健康保险公司都看到了AI在削减成本和拒绝理赔方面的强大工具。
（1）引言
迅速发展的**人工智能（AI）**可能成为自互联网诞生以来最具影响力的科技现象。然而，这项技术也充满了滥用的潜在风险。一个早期采用AI的行业是医疗保健，全国各地的健康保险公司都看到了AI在削减成本和拒绝理赔方面的强大工具。
（2）健康保险公司和AI工具
保险公司利用算法和AI减少了其最大的一些成本，包括利用管理（utilisation management）和后期急性护理理赔，这往往是以牺牲患者必要的医疗治疗为代价的。一些保险公司与第三方签订合同使用AI工具，一些公司开发自己的AI工具，还有一些公司同时使用这两种方式。
保险公司在处理和拒绝理赔时故意隐秘操作，经常让患者疑惑为什么他们看似合理的理赔被拒绝。在某些情况下，保险公司会披露使用第三方审核员，但不会披露第三方审核员使用AI技术自动拒绝理赔的情况。在其他情况下，保险公司既不披露任何第三方的参与，也不披露AI的使用。
其中一个名为“PXDX”的算法由Cigna开发并使用，用于评估数十种常见手术是否覆盖。PXDX算法会检查理赔，查看手术代码是否在患者诊断的预批准手术列表上。如果手术不在列表上，保险覆盖将自动被拒绝。然而，将人类医生从理赔决定过程中移除违反了多项法律。例如，加州法律规定，理赔决定必须由医生在进行“彻底、公平和客观的调查”后做出。为了表面上符合这一要求，Cigna让其医生（称为医疗主任）批量签署拒绝决定。使用PXDX，Cigna的医生平均每审查一个案件只需1.2秒，每月可拒绝高达60,000个理赔。Cigna辩称，PXDX算法并不做出医疗必要性的决定，但PXDX算法通常会以“非医疗必要”作为拒绝覆盖的理由。
UnitedHealthcare（美国最大的保险公司之一，年收入为3720亿美元）和Humana也都使用算法来做出理赔决定。UnitedHealthcare和Humana使用“nH Predict”算法处理昂贵的后期急性护理理赔，如专业护理、住院康复和长期康复。naviHealth的nH Predict算法声称可以通过比较患者与之前接受类似服务的患者来预测患者需要多少护理。当患者开始后期急性护理时，naviHealth员工会输入有限的患者数据到nH Predict工具中，该工具会返回一个出院日期。当该日期过去后，naviHealth会在不考虑患者状况或医生建议的情况下发出拒绝通知。与Cigna一样，naviHealth的拒绝决定也由医生签署，但naviHealth不允许其医疗主任偏离nH Predict的拒绝日期。
另一家保险公司使用的算法是由EviCore开发的。EviCore由Cigna拥有，为1亿消费者提供保险覆盖，约占美国投保人口的三分之一。EviCore用于处理预先授权请求，即保险公司在医疗服务提供前有机会批准或拒绝护理。EviCore的算法通过声称计算每个理赔如果由医疗主任审查的批准可能性来工作。EviCore允许保险公司选择一个阈值，将低于某个批准可能性的理赔发送给医疗主任审查。审查的理赔越多，被拒绝的理赔也越多。保险公司可以根据希望拒绝的理赔数量调整其阈值。
使用AI使保险公司节省了数百万美元，但以投保人的利益为代价。根据患者所需的护理类型和审查其理赔的算法类型，患者可能会面临意外账单，被迫自费支付护理费用，甚至被迫放弃必要的护理。患者因算法拒绝而遭受各种财务、情感和身体伤害。
（3）相关联邦法律
投保人已对Cigna、UnitedHealthcare和Humana提起集体诉讼，指控其未披露使用AI和算法批量拒绝理赔的行为。然而，与AI或算法相关的保险理赔拒绝的集体诉讼存在一定的诉讼挑战，因为联邦法规如ERISA和Medicare法案为保险公司提供了保护，如豁免条款。
例如，如果原告的保险计划是通过私人雇主提供的团体付费计划，就像大多数美国人一样，其计划受ERISA管辖。ERISA包含广泛的豁免条款，禁止大多数其他适用的索赔，并强制在ERISA法定框架下进行诉讼。如果适用，ERISA将损害赔偿限制在被拒绝福利的价值内，禁止惩罚性损害赔偿，限制证据收集，确保联邦法院（而非州法院）审理，并不提供陪审团审判。
如果原告的保险计划是Medicare Advantage计划，即由私人保险公司管理的Medicare计划，则该计划受Medicare法案管辖。Medicare法案也包含豁免条款，但不如ERISA广泛。此外，Medicare法案要求所有寻求福利（包括与福利相关的损害赔偿）的原告必须首先完成四步Medicare上诉程序。即使原告耗尽其索赔，Medicare法案也限制了法院审查和救济的范围。
由于这些是包含广泛豁免条款的联邦法规，各州基本上无力采取措施解决保险公司滥用AI的问题。
（4）国会调查
政府已经注意到这个问题，启动了对Cigna、UnitedHealth、Humana和CVS Health（前身为Aetna）使用AI的调查。
2023年5月，众议院能源和商业委员会主席Cathy McMorris Rodgers（R-WA）要求Cigna提供公司文件，以便立法者审查该公司在不打开文件的情况下拒绝理赔的做法。
同样在2023年5月，参议院常设调查小组委员会（PSI）主席Richard Blumenthal（D-CT）启动了对UnitedHealth、Humana和CVS Health使用AI审查和拒绝Medicare Advantage计划中后期急性护理预先授权理赔的调查。2024年10月17日，PSI发布了其报告，发现保险公司使用AI导致拒绝率迅速增加，为保险公司节省了数亿美元，并将财务收益置于合理的医疗必要性判断之上。PSI建议医疗保险和医疗补助服务中心（CMS）收集更多关于预先授权拒绝的详细信息，审计保险公司的预先授权实践，并扩大法规，确保预测技术不会对医疗主任产生不当影响。
（5）结论
健康保险公司通过使用AI审查和拒绝理赔节省了数百万美元。除非保险公司被迫改变其AI使用方式，否则患者将继续因理赔未经医生有意义的审查而被拒绝而遭受损失。如果没有更有力的联邦干预，集体诉讼是挑战这些做法、补偿受影响患者并迫使保险公司停止滥用AI的最佳途径。
参考文献
- Patrick Rucker, Maya Miller, & David Armstrong, How Cigna Saves Millions by Having Its Doctors Reject Claims Without Reading Them , ProPublica (Mar. 25, 2023, 5:00 AM),
- 10 Cal. Code Regs. § 2695.7.
- Rucker, supra note 1.
- 开发者为naviHealth，UnitedHealthcare于2020年收购的实体。See Casey Ross & Bob Herman, Denied by AI: How Medicare Advantage Plans Use Algorithms to Cut Off Care for Seniors In Need , STAT (Mar. 13, 2023),
- T. Christian Miller, Patrick Rucker, & David Armstrong, “Not Medically Necessary”: Inside the Company Helping America’s Biggest Health Insurers Deny Coverage for Care, ProPublica (Oct. 23, 2024, 1:30 PM),
作者
Glenn Danas - 克拉克森律师事务所
Michael Boelter - 克拉克森律师事务所
(全文结束)
