AI在医疗领域的快速发展在某些方面已经让医生及其工作人员难以跟上步伐。这一点同样适用于针对AI的法律法规。Kathleen Healy律师，Robinson & Cole波士顿办公室的合伙人，专门就医疗保健监管事务提供咨询。她指出：“目前，关于AI的法律框架正处于不断变化的状态。有新兴的法律法规，但医生们还不清楚如何在合法合规的情况下使用AI工具。”
联邦和州级规则的演变
在联邦层面，Healy提到了卫生与公众服务部下属的国家卫生信息技术协调员办公室于2024年1月发布的最终规则。该规则于2024年7月5日生效，为认证健康信息技术的AI开发者创建了一个新的监管框架。然而，她指出，该规则还包括适用于“受保护实体”的要求，这些实体包括医疗服务提供者。
“如果你仔细研究这些法规，受保护实体需要在2025年5月1日前遵守某些禁止歧视的规定，”Healy说。“最终规则对医生和医疗机构提出了挑战，因为它们可能会认为这些规定仅适用于认证健康信息技术的AI开发者。”
Healy还提到，许多州级法案正在被提出或通过。Health Information and Management Systems Society (HIMSS)的政府关系高级总监Valerie Rogers确认：“大多数已通过或提出的州立法集中在建立咨询机构和任务组，以定义、寻求透明度、消除AI应用中的偏见，并在少数情况下对医疗健康领域的AI使用进行监管。”阿拉巴马州、科罗拉多州、伊利诺伊州和佛蒙特州已经通过了此类法律。此外，阿拉巴马州、科罗拉多州、伊利诺伊州和密西西比州通过了限制AI使用的法案，但这些法案并非专门针对医疗健康领域。
“对医疗健康领域的兴趣、模型和指导的爆炸式增长引起了立法者的注意，”Rogers说。“许多医生已经在医疗健康中使用AI，越来越多的项目利用它从数据中生成快速、可操作的见解，以制定政策、公共卫生干预措施和应急响应。”然而，Rogers警告称，州一级的一个主要趋势是“对AI的一般了解不一致”，以及其在医疗健康领域的应用。她补充道：“在某些情况下，州政策制定者依赖于来自其他州议员报告和媒体及社交媒体（如X和LinkedIn）的故事。”
Rogers还发现，一些立法者在区分生成式AI和对话式AI方面存在困难；更复杂的是，各州和地方对这些术语的称呼也有所不同。“我们预计，随着州官员对医疗健康和公共卫生领域AI的利弊了解更多，趋势将发生变化，包括管理应用（如计费、预约安排或笔记记录）与临床应用（这些应用较少为人所知），”Rogers说。
组织的指导
为了帮助开发和实施AI，HIMSS发布了一套全球政策原则，涵盖了多项议题，包括政策护栏、减少偏见和保护患者数据。这些原则还重申了人类监督AI的关键作用。“HIMSS AI全球政策原则强调，无论模型声称多么精确，AI始终需要人类的判断和自由裁量权（包括不仅确保准确性，还要确保数据、分析和结果不带偏见），”Rogers说。
美国医学协会（AMA）也创建了一个开发和使用AI的框架。该框架设想了一个医疗健康系统，其中AI增强患者护理、改善人口健康、降低成本，并改善提供者的日常工作生活。该框架还列出了伦理检查点，以确保开发者、部署者和临床医生达到这些目标。
需要注意的风险
在使用AI工具提升实践运营时，Healy鼓励医生注意某些法律风险。这些风险包括因AI工具需要大量数据（通常包括受HIPAA保护的健康信息）而引发的数据隐私和网络安全问题。
此外，她表示，医疗服务提供者应主动解决可能因AI工具训练数据基于特定人群子集而产生的偏见和歧视问题。另一个问题是未授权的医疗行为，即医生在使用AI工具时仅依赖其结果而不使用自己的临床判断来验证结果。
“我经常举的一个例子是，有许多放射学工具使用AI，可以帮助放射科医生解释图像和分析大量数据。然而，风险在于，如果你使用这些工具并取代临床医生的判断，这可能导致未授权的医疗行为指控，”Healy说。
在概述这些需要考虑的因素时，Healy表示，她并不想阻止医疗机构探索使用AI。相反，他们应该引入法律专家来指导他们。“这是一种技术，因此你需要一个在技术法律和合同方面有专长的人。法律也将迅速变得更加专业化，因此你不希望找一个从零开始的人，”她说。
(全文结束)
