康涅狄格州参议员希望限制保险公司使用人工智能决定医疗服务

CT senator wants to restrict insurance companies from using AI to decide health care

在不断变化的技术驱动世界中，人工智能系统每年变得越来越普遍。与此同时，全国各地和康涅狄格州的立法者正在通过立法来监管这些技术，特别是在医疗保健领域。

其中一项法案由民主党参议员Saud Anwar提出，旨在修改该州的法规，禁止健康保险公司使用人工智能来决定患者的护理，“以保护患者接受测试、药物和治疗的权利”。

Anwar表示，这项法案是在ProPublica的一项调查之后提出的，该调查发现总部位于康涅狄格州的Cigna保险公司在预授权过程中使用了AI指导的算法拒绝患者的护理请求。根据调查，Cigna的医生在2022年的两个月内，通过一个自动化系统拒绝了超过30万次支付请求，平均每个案例仅花费1.2秒。自那时以来，针对大型健康保险公司的诉讼激增，包括UnitedHealth，指控它们不当使用AI快速拒绝医疗服务。

Anwar是一名专门研究肺部疾病的医生，他表示，这些快速拒绝护理的行为增加了“公司股票价值，却牺牲了人的生命”，因为患者“会死亡……有些人会在等待所需护理的过程中忍受痛苦”。他认为患者“应该有一个真正的人类来审查他们的病例，而不是一个训练有素的拒绝护理的人工智能算法，这种做法有时是为了让保险公司赚取更多利润。”他补充说：“这是不道德、不人道且错误的做法。”

康涅狄格医院协会高级政策副总裁Paul Kidwell表示，健康支付方在其行政流程中使用算法并不新鲜，而AI是这一技术的自然发展步骤。然而，需要密切监督以确保透明度。他说，每个患者及其所需的护理都是不同的，因此工作人员质疑在如此复杂的护理情况下，如何能在“两秒钟”内做出预授权拒绝的决定。

最近，美国医学协会的一项调查显示，全国五分之三的医生担心使用AI增加预授权拒绝的情况，这可能会推翻良好的医疗判断并系统性地拒绝患者必要的医疗护理。Kidwell指出，当提供者经历“耗时且复杂”的上诉过程时，大多数拒绝最终会被推翻，但这浪费了医院的时间和金钱，并为患者设置了护理障碍。

康涅狄格健康计划协会执行董事Susan Halpin表示，健康承保人并未使用AI来做健康决策，这些决策仍然属于人类的范畴。“鉴于所有医疗互动的时间敏感性和每分钟决策的重要性，健康承保人在部署[人工智能系统]时各不相同，但都依赖于‘人类参与’进行关键决策，”Halpin在给CT Insider的一封电子邮件声明中说道。

她还提到，康涅狄格保险部门负责监管在该州运营的健康承保人。这些承保人还需遵守不公平保险行为法和反歧视规定，并必须遵守2024年2月发布的关于AI系统的公告通知。

同时，Halpin表示，AI正在“积极改变”医疗保健交付系统。她说，负责任地开发和部署的AI系统“将为所有消费者带来可及、有效、负担得起且增强的医疗保健解决方案”。

一些消费者受益之处包括改进的参与度、清晰度以及福利和金融服务的获取。此外，AI还通过远程医疗的进步和可穿戴监测设备提供的及时数据，改善了服务的获取。

Halpin在电子邮件声明中表示，人工智能系统和机器学习管理用途，如支付完整性和索赔裁决，可以帮助解决支付方和提供者之间的一些挑战，提高准确性和效率。

康涅狄格并不是第一个或最后一个引入旨在监管AI的立法的州。据全国州议会会议称，在2024年立法季节期间，至少有40个州提出了或通过了有关AI监管的立法，其中许多与医疗保健相关。州立法者过去曾试图通过AI监管法案，但遇到了阻力和讨论。

Anwar的法案已于1月下旬提交给保险和房地产联合委员会。他表示，预计该法案将受到保险行业代表的反对，因为他们“在立法机构中有很大的影响力”。

Kidwell表示，医院及其员工需要了解AI系统是如何被训练和使用的，以及所采用的监督类型等基本信息，以便更好地理解整个过程。

“我们对AI的总体看法是，它可能是一个非常重要的强大工具……那么我们如何做到这两点，确保我们真正获得好处，同时也确保它从根本上支持患者，而不是创造护理障碍，”他说。

(全文结束)