人工智能（AI）有潜力彻底改变医疗保健。在肿瘤学领域，现在有机会将AI应用于支持诊断、预测分析和行政职能。这一热门话题在2024年9月的癌症护理业务交流会上的数字创新（特定癌症的AI用例）和高级临床路径会议上进行了讨论。虽然这些热烈的会议使商业案例变得清晰，但值得注意的是，AI技术的发展远远超过了适当的、周到的立法和监管框架的开发速度。
医院、提供者、支付方和第三方供应商在选择和实施任何新的AI解决方案时应采取实际步骤。以下是进入这一关键领域时需要注意的几个关键考虑因素：
确保遵守所有适用的隐私和安全标准
AI的成功往往取决于数据。几乎所有的AI解决方案都需要大量的数据，这些数据需要从许多来源进行整合和摄入，包括电子病历系统、提供者平台和患者门户。了解谁将使用和支持AI解决方案对于确保医疗保健组织遵守联邦和州的隐私和安全法律至关重要。创建和支持AI解决方案的供应商必须确保其解决方案符合医疗保健提供者期望的基本隐私和安全最佳实践。
医疗保健提供者必须详细了解AI解决方案的运作方式，以便评估所需的法规保护。供应商需要什么类型的数据来操作和支持AI解决方案？如果患者信息将与供应商共享，提供者可能需要与供应商签订业务关联协议。医疗保健提供者应了解是否需要向患者发出通知。一些州的法律要求个人被告知其个人身份信息是否将被用于AI解决方案以提供建议或反馈。提供者还应注意供应商可能寻求将其健康数据用于自身目的的迹象，例如训练其AI解决方案并在提供者的竞争对手中使用该解决方案。任何用于供应商自身目的（不涉及其客户合同管理）的数据使用都需要在业务关联协议中特别许可，并且任何数据都需要按照HIPAA的规定去标识化，并获得医疗保健提供者的许可。
积极监控该领域的立法和监管活动，因为监督可能会增加
随着AI的快速发展，政府监管进展缓慢；然而，我们可以预期新法律和官方指导将越来越频繁地出现。许多州已经成立了工作组和委员会来研究和监测AI的使用。2024年3月，犹他州通过了《人工智能法案》，该法案规定从2024年5月1日起，受监管职业使用生成式AI的首次披露要求。2024年5月，科罗拉多州通过了《消费者与人工智能互动保护法》（生效日期为2026年2月1日），这是第一个规范高风险人工智能系统的州法律。有关更多信息，请参阅Foley的博客《科罗拉多州通过新AI法律保护消费者互动》。
需要批准才能实施的AI驱动医疗设备
提供者应确认拟议的AI驱动解决方案是否需要监管批准（例如作为医疗设备），如果没有，支持其产品营销的监管指导是什么，以及适当的声明和保证。虽然AI可以学习并从错误中改进性能，但现有的监管模式旨在评估AI运行的静态框架。因此，许多医疗设备可能需要但尚未获得适当的监管批准，或者将来可能会受到批准要求。食品和药物管理局（FDA）正在探索更全面评估AI解决方案的方法（截至2024年8月，已授权950种AI/ML驱动的医疗设备），但最终可能需要国会提供新的立法指导。在此期间，提供者应在采用前由法律顾问审查任何拟议的AI驱动医疗设备。
通过尽职调查和合同保护自己
想象最坏的情况。例如，您的AI供应商遭受网络攻击。或者，由于AI产品的故障和提供者过度依赖AI解决方案，导致漏诊。提供者应仔细制定政策和程序，概述组织批准的AI使用方法，彻底调查供应商和AI解决方案，审查合同以纳入适当的保护措施，并确保保险和其他责任保护到位。适当的尽职调查领域包括供应商是否适当注册以保护其知识产权；供应商是否对其员工和代理人进行背景调查以防止医疗欺诈和其他高风险领域；供应商是否有适当的保险覆盖（包括网络保险）；以及如果提出索赔，有哪些资源可用。合同应主动分配责任。许多供应商提供标准合同。这些合同应仔细审查，以确保包含以下法律条款：
- 基本性能期望
- 关于合规性和性能的声明和保证
- 保密/隐私和安全
- 不招揽义务或其他限制性条款（特别是对于现场工作的供应商）
- 赔偿条款——寻找与疏忽、违约、故意不当行为、网络和知识产权侵权相关的赔偿
- 责任限额——许多供应商寻求将费用限制在一到三年内
制定和实施适当的IT和AI治理程序
一个定义明确的企业治理框架可以解决AI伦理实施的担忧，建立对AI解决方案的信任，并帮助公司减少未来的责任。这包括制定政策和程序，包括对将访问或使用AI解决方案的人员进行适当的培训，使组织能够在实施过程中和之后审查、监督和监控AI。然而，随着技术和AI用例的不断发展，持续审查和迭代这些治理政策非常重要，同时也要监控组织内部对这些治理政策的合规情况。
优先考虑支持或增强报销的解决方案
AI可以帮助提高效率和创新，最重要的是可以改善患者护理和结果，但精明的肿瘤学实践还将寻找可以增强其收入的AI解决方案。AI解决方案本身是否可报销，供应商是否有报销途径？该产品是否符合医疗保险和医疗补助服务中心（CMS）的质量报告计划（如基于价值的激励支付系统（MIPS）和促进互操作性的州计划）的要求？国家协调办公室（ONC）认证被CMS认可为确认遵守安全、功能和技术要求的标准。然而，根据与AI解决方案的集成程度，供应商可能需要采取措施以符合ONC对生成式AI解决方案和临床决策支持工具的要求。
下一步行动
随着AI越来越多地成为医疗保健运营的一部分，可以采取这些实际步骤来降低合规、隐私和安全流程的风险。Foley正在密切关注多个领域（包括创新技术、医疗保健和生命科学以及知识产权）中与AI相关的法律和商业环境的变化，随时准备协助。如有任何问题，请联系本文作者、您的Foley关系合作伙伴、我们的AI重点领域和医疗保健与生命科学部门。
(全文结束)
