随着北卡罗来纳州的医疗系统越来越多地采用人工智能，州领导人表示他们希望率先制定政策，以规范这项迅速发展的技术。这些努力将是首批在州级层面为医疗领域的人工智能设置限制的措施之一。
人工智能（AI）涉及使用大量信息来完成以往被认为需要人类智能才能完成的任务的软件，在医疗领域的应用已经广泛普及。近年来，“生成式”AI的出现意味着机器不仅能够分析大量数据进行预测或提供建议，还可以生成新的原创内容。
北卡罗来纳州的医疗系统是全国最早开发和部署生成式AI技术的地区之一，例如环境记录工具可以记录患者就诊并自动生成笔记。然而，这些技术也带来了许多挑战。杜克-玛戈利斯健康政策研究所的数字健康研究主任Christina Silcox指出，AI算法可能会基于含有细微偏见的数据进行训练，导致其在有色人种患者中表现不佳。此外，处理大量患者数据可能引发隐私问题，另一个危险是医疗服务提供者可能会过度依赖AI工具，忽略他们多年积累的专业知识。
共和党议员Jim Burgin（安杰尔）计划在今年提出立法，以解决关于AI潜在缺陷的一些担忧。一些北卡罗来纳州的医疗领导者也希望制定能够成为其他州典范的AI政策。
在复杂且不断变化的AI环境中制定政策是困难的，但Silcox认为这将对未来医疗行业产生巨大益处。“我坚信AI不仅可以改善医疗保健和健康状况，我们还需要AI来改善医疗保健和健康。”Silcox说，“我们正面临着老龄化人口和负担过重的劳动力市场，这种情况只会越来越严重。”
州级AI法规寥寥无几
尽管联邦机构已发布有关医疗AI的规则，但国会迟迟未通过相关立法，这意味着联邦层面的监督有限。一些州已经开始填补这一空白。例如，犹他在今年4月通过了一项法律，要求所有持照专业人士（包括大多数医疗工作者）在与生成式AI互动时通知客户。其他州也在考虑立法，禁止使用带有歧视性的AI算法或允许患者选择不使用AI，根据国家立法会议的说法。
在过去两年中，北卡罗来纳州的立法者尚未涉足医疗AI的监管。与此同时，该州的医疗行业增加了AI的使用。全州范围内，医疗服务提供者应用了一系列工具，用于帮助预测健康事件、分析扫描图像、处理行政任务和与患者沟通。
北卡罗来纳州医学委员会在其立场声明中指出，医生应对根据AI算法建议做出的决定负责。如果医生使用AI工具转录临床笔记，则有责任审查并确保其准确性。该委员会尚未因AI工具的使用而开启任何纪律案件，也没有立即计划制定关于AI使用的指导文件或政策，根据该委员会的通讯主管Jean Fisher Brinkley的说法。
该委员会希望避免采取仓促行动，以免阻碍医学中AI的创新，但他们将继续关注AI的发展。
一些北卡罗来纳州的医疗提供者建立了自己的AI治理系统。例如，杜克大学健康系统——与UNC Health一样，是这类系统的早期采用者之一——要求AI临床工具必须经过审查程序。由系统和大学专家组成的委员会监督这些工具及其输出，杜克大学健康信息官Eric Poon表示：“我们要求项目团队尝试这项技术，部署适当的安全措施，并在大规模推广之前评估其效果。”委员会还审查AI工具所基于的数据是否存在潜在偏见。
2022年，杜克大学的临床医生和研究人员不得不修改一个用于检测儿童败血症的算法。研究人员发现，医生对后来确诊为败血症的西班牙裔儿童进行血液测试的时间比白人儿童更长，这可能导致算法认为西班牙裔儿童更容易患上败血症。经过调查，杜克研究人员发现AI在检测西班牙裔儿童的败血症方面与其他儿童一样迅速，因为数据不足不足以影响算法。研究员Mark Sendak在接受《权衡》播客采访时说，这一事件使他深刻认识到偏见如何轻易地渗入AI。
领导者着眼于“黄金标准”的州级立法
Burgin正在起草一项立法，旨在解决AI在临床决策中使用的责任问题。UNC Health的执行官最近也表示，医疗行业对更多AI监管感兴趣。
“理想情况下，应该有联邦立法提前适用于所有州，以确保负责任的AI使用。”UNC Health首席医学信息官David McSwain在11月的一次UNC医疗AI专题讨论会上说。然而，这似乎不太可能在短期内实现，这意味着医疗系统将不得不应对各州不同的法律。分散的州法律会很复杂，可能要求公司在每个州设计不同的AI平台。
McSwain表示，北卡罗来纳州的医疗领导者希望召集包括医疗系统和社会在内的各种利益相关者，共同制定能够成为其他州范本的“黄金标准”州级立法。
任何未来的立法的一个关键方面将是定义像“AI”这样的术语，这往往很棘手，因为它用于描述许多不同用途的技术。
“我认为州级AI立法是个坏主意。”McSwain说，“但现实是，这即将发生。我们的目标是建立州级立法，最大限度地减少对医疗系统的负担，最大限度地减少对提供者的负担，最大限度地减少潜在的负面健康公平影响。”
(全文结束)
