SPRINGFIELD, Ill. - 伊利诺伊州立法者正密切关注人工智能在医疗保健领域的应用。民主党籍议员鲍勃·摩根（来自迪尔菲尔德）正在推动两项法案，拟对人工智能在在线心理治疗服务中的使用，以及在决定个人健康保险覆盖范围的决策过程中的应用施加限制。
摩根在给《伊利诺伊州首府新闻》的电子邮件中表示："人工智能已经来临，无论我们是否喜欢。在健康保险领域，让未经审查的自动化系统决定是否提供救命治疗或导致财务崩溃的风险实在过高。"
摩根发起的众议院法案1806号——涉及人工智能在在线心理健康服务中的使用——本周三在众议院医疗许可委员会以全票赞成通过。该法案若生效，将禁止持牌心理健康专业人士在提供治疗或心理治疗服务时使用人工智能辅助。
摩根表示，美国社会工作者协会收到了越来越多来自在线服务用户的报告，称他们在咨询期间不知情地在与AI聊天机器人互动。他在委员会听证会上指出："将人工智能引入心理健康护理显然存在严重风险，可能导致危险甚至危及生命的后果。显然，人工智能无法行使道德判断，也无法识别处于危机中的人，或根据非语言暗示和情绪语调进行调整——这些正是我们培训医疗保健专业人员时强调的重点。"
摩根提出的另一项与AI相关的法案——众议院法案35号——将改变健康保险公司使用人工智能做出客户覆盖决定的方式。该法案已于周二以11票赞成、6票反对的结果通过众议院保险委员会。法案旨在防止保险公司对消费者做出不当的负面决定。若该法案生效，健康保险公司将不得仅依赖人工智能系统来拒绝、减少或终止患者的保险覆盖。相反，这些由AI做出的决策必须由具有否决权的人类员工进行"实质性审查"。
摩根指出，目前所有主要健康保险公司都在以某种方式使用人工智能，既有有益也有有害的应用。他认为，在没有真人监督的情况下使用AI做出覆盖决定属于有害应用。他在委员会会议上表示："就在我们今天开会之时，保险公司正使用人工智能决定我们的健康保险索赔。我们对这些系统可能如何运作以及如何针对我们和索赔进行决策完全蒙在鼓里。"
去年底，《ProPublica》曾对Evicore公司展开调查，发现这家为美国众多主要保险公司提供服务的公司，其用于决定消费者保险覆盖的人工智能算法具有较高的拒绝率。摩根在给CNI的邮件中提到，近年针对Cigna、Humana和UnitedHealth Group使用AI决策系统拒付救命治疗的诉讼案，已导致这些公司面临集体诉讼。2023年对联合健康集团的诉讼案已于上月结案，七项指控中有五项被驳回。
该法案旨在遏制这种做法。摩根表示："通过确保所有对患者产生负面影响的AI驱动决策必须经过人类审查，我们正在维护一个影响数百万人生命体系的公平性、问责制和消费者保护。这并不是要拒绝创新——而是要确保技术服务于人类，而不是相反方向。"
HB35法案遭到包括伊利诺伊州商会、美国健康保险专业人员协会和伊利诺伊州美国公民自由联盟在内的三个机构的反对，但获得了包括伊利诺伊州医学会、伊利诺伊药剂师协会和美国社会工作者协会伊利诺伊分会等10个组织的支持。
《伊利诺伊州首府新闻》是一家非营利、无党派新闻服务机构，向全州数百家新闻机构分发州政府报道。其主要资金来源是伊利诺伊州新闻基金会和罗伯特·R·麦考密克基金会。
【全文结束】
