加利福尼亚州正在引领确保医疗必要性健康服务的决定由持牌医师而非人工智能（AI）算法作出。加州最近通过了《医师做决策法案》，该法案由加州州长加文·纽森于2024年9月签署成为法律，同时签署了另外17项AI相关法案。该法案自2024年1月1日起生效，修改了《Knox-Keene法》，将重要的健康保险覆盖决定重新交还给医生手中，禁止健康保险公司仅依赖AI工具以医疗必要性为由拒绝索赔。该法案还对AI在医疗索赔处理中的适当使用设定了指南和标准。加州总检察长也紧随其后，向保险公司、提供者和其他医疗实体发布了关于AI在医疗中各种用途的法律指导，特别强调遵守该法案。
AI在医疗行业迅速兴起，被寻求削减成本和简化医疗索赔审查的健康保险公司所接受。但如果没有适当的人类监督，这种做法可能会对患者和提供者造成重大伤害，限制必要医疗服务的覆盖范围。我们之前曾报道过两起集体诉讼，一起针对Cigna，另一针对United Healthcare，均指控保险公司使用AI不当拒绝医生认为有医疗必要性的索赔。
该法案的目标是停止这些有害的做法。根据该法案，AI不再能单独决定索赔是否因医疗必要性而被拒绝、延迟或部分修改。审查索赔的医疗必要性时必须有医生监督，以确保这些关键的医疗决定由持牌专业人士做出，并考虑到患者的个人病史和医疗需求。健康保险公司仍然可以使用AI工具，但须遵循这些及其他要求，包括使工具可供州检查员审计。这项法律旨在平衡利用技术进步改善医疗交付与保护患者获得关键护理之间。
虽然故意违反该法案是犯罪行为，但私人执行不可用。然而，提供者仍可能通过不公平竞争或其他州法律索赔来执行该法案的违规行为，从而为不适当的保险覆盖拒绝提供补救工具。
虽然加利福尼亚是第一个通过此类法律的州，但全国范围内对AI在医疗索赔处理中的使用的担忧正在增加。预计其他州和联邦立法机构也会跟进，因为政策制定者正在审查这一问题，并寻找确保医疗中负责任地使用AI的方法。
(全文结束)
