在过去十年中，健康保险公司越来越多地采用人工智能算法。与医生和医院使用AI帮助诊断和治疗患者不同，健康保险公司使用这些算法来决定是否支付医生推荐的医疗服务。
最常见的例子之一是预先授权，即在提供护理之前，医生需要从保险公司获得付款批准。许多保险公司使用算法来决定所请求的护理是否“必要”并应被覆盖。
这些AI系统还帮助保险公司决定患者有权获得多少护理——例如，手术后患者可以在医院住多少天。
如果保险公司拒绝支付医生推荐的治疗费用，你通常有三个选择。你可以尝试上诉，但这个过程可能耗费大量时间和金钱，并且需要专家的帮助。只有千分之二的索赔被上诉。你可以同意接受保险公司会覆盖的不同治疗。或者你可以自费支付推荐的治疗费用，但由于高昂的医疗费用，这通常是不现实的。
作为一名研究卫生法律和政策的法学学者，我对保险算法如何影响人们的健康感到担忧。就像医生和医院使用的AI算法一样，这些工具有可能改善护理并降低成本。保险公司表示，AI有助于他们快速、安全地决定哪些护理是必要的，并避免浪费或有害的治疗。
但有强有力的证据表明，事实可能恰恰相反。这些系统有时被用来延迟或拒绝应覆盖的护理，以节省成本。
拒绝护理的模式
假设公司将患者的医疗记录和其他相关信息输入到医疗保险算法中，并将这些信息与当前的医疗护理标准进行比较，以决定是否覆盖患者的索赔。然而，保险公司拒绝披露这些算法如何做出这些决定，因此很难确切地说它们在实践中是如何运作的。
使用AI审查覆盖范围可以为保险公司节省时间和资源，尤其是因为这意味着需要更少的医务人员来审查每个案件。但保险公司的财务收益不止于此。如果一个AI系统迅速拒绝了一个有效的索赔，并且患者提出上诉，这个上诉过程可能需要数年时间。如果患者病情严重且预期寿命较短，保险公司可能会通过拖延程序来节省资金，希望患者在案件解决前去世。
这就产生了令人不安的可能性，即保险公司可能会使用算法来拒绝昂贵、长期或终末期健康问题（如慢性病或其他致残性疾病）的护理。一位记者直言不讳地指出：“许多老年人一生都在缴纳医疗保险，现在却面临截肢或癌症，被迫要么自费治疗，要么放弃治疗。”
研究表明，患有慢性疾病的患者更有可能被拒绝覆盖，并因此遭受痛苦。此外，黑人和西班牙裔以及其他非白人种族的人群，以及LGBTQ+人群，更有可能经历索赔拒绝。一些证据还表明，预先授权可能会增加而不是减少医疗系统的成本。
保险公司辩称，患者总是可以自费接受任何治疗，因此他们实际上并没有被拒绝护理。但这种论点忽视了现实。这些决定对人们的健康有严重影响，特别是当人们负担不起所需护理时。
走向监管
与医学算法不同，保险AI工具基本上不受监管。它们不需要经过食品药品监督管理局（FDA）的审查，保险公司经常声称其算法是商业机密。
这意味着没有公开的信息说明这些工具如何做出决策，也没有外部测试来验证它们是否安全、公平或有效。目前还没有同行评审的研究来证明它们在实际应用中的效果。
似乎有一些改变的势头。负责管理医疗保险和医疗补助计划的联邦机构——医疗保险和医疗补助服务中心（CMS）最近宣布，医疗保险优势计划中的保险公司必须基于个别患者的需求做出决定——而不仅仅是基于通用标准。但这些规则仍然允许保险公司自行制定决策标准，并且在使用前仍不需要任何外部测试来证明其系统的有效性。此外，联邦规则只能监管联邦公共健康计划，如医疗保险。它们不适用于不提供联邦健康计划覆盖的私人保险公司。
包括科罗拉多州、佐治亚州、佛罗里达州、缅因州和德克萨斯州在内的一些州已经提出了限制保险AI的法律。少数几个州已经通过了新法律，其中包括2024年加利福尼亚州的一项法律，该法律规定必须由持照医生监督保险覆盖算法的使用。
但大多数州法律与新的CMS规则存在同样的弱点。它们将太多控制权交给了保险公司，让他们自行决定如何定义“医疗必要性”，并在什么情况下使用算法进行覆盖决策。它们也不要求在使用前由中立专家审查这些算法。即使强大的州法律也不够，因为各州通常无法监管医疗保险或在州外运营的保险公司。
FDA的角色
在许多卫生法律专家看来，保险公司行为与患者需求之间的差距已经变得如此之大，以至于监管医疗保险算法现在变得至关重要。正如我在即将发表于《印第安纳法律杂志》的一篇文章中所论述的那样，FDA在这方面处于有利地位。
FDA拥有能够评估保险算法在用于覆盖决策之前的安全性和有效性的医学专家。该机构已经审查了许多用于安全性和有效性的医学AI工具。FDA的监管还将提供一个统一的全国性监管方案，而不是全国各地的拼凑规则。
有些人认为FDA在这方面的权力有限。根据FDA的监管定义，医疗器械是指“用于疾病或其他状况的诊断，或用于疾病的治愈、缓解、治疗或预防”的仪器。由于健康保险算法并不用于诊断、治疗或预防疾病，国会可能需要修改医疗器械的定义，以便FDA能够监管这些算法。
如果FDA目前的权限不足以涵盖保险算法，国会可以修改法律赋予其这一权力。同时，CMS和州政府可以要求对这些算法进行独立的安全性、准确性和公平性测试。这可能会促使保险公司支持单一的国家标准——如FDA监管——而不是面对全国各地的拼凑规则。
显然，监管健康保险公司如何使用AI来确定覆盖范围的进程已经开始，但仍在等待强有力的推动。患者的生命实际上悬而未决。
(全文结束)
