随着AI技术的迅速发展，FDA正在应对如何在创新与患者安全之间找到平衡的挑战，制定确保AI工具在整个生命周期中保持有效的法规。
背景
大型语言模型（LLMs），如生成式AI，因其可能产生不可预测的输出而成为独特的监管挑战，这些输出如果不妥善管理，可能会影响临床决策。AI技术在生物医学和医疗保健领域的进步具有巨大的潜力。对AI的期望往往超过了以往的医疗技术，如远程医疗、数字健康工具和电子健康记录。虽然这些技术都是突破性的，但AI工具在数据分析、诊断和个性化护理方面的能力是革命性的。
然而，AI在医学和医疗保健中的应用也引发了关于监督和监管的重大关切。美国食品药品监督管理局（FDA）长期以来一直在制定将AI纳入医疗产品开发和医疗保健的法规。然而，AI技术的动态特性带来了一些独特的监管挑战，特别是在有效性、安全性、上市后性能和责任方面。此外，AI技术的快速发展要求监管框架能够快速适应。
FDA对医学AI的监管
根据该评论，FDA对AI医疗产品的监管始于1995年，当时批准了PAPNET，这是一种用于宫颈癌诊断的AI工具。尽管由于成本高昂，PAPNET并未广泛采用，但自那以后，FDA已批准了近1000种基于AI的医疗设备和产品，主要应用于放射学和心脏病学。AI也在药物开发中广泛应用，包括药物发现、临床试验和剂量优化。此外，AI在肿瘤学领域的应用日益增多，而在精神健康领域，数字技术也显示出巨大潜力。
FDA收到的有关AI在药物开发中的使用监管提交数量在过去一年中增加了十倍。鉴于AI应用范围广泛且复杂，FDA也调整了监管框架，使其基于风险但同时考虑到AI在真实世界临床环境中的演变。AI在药物开发中显示出显著的前景，尤其是在肿瘤学和精神健康领域，AI模型可以增强药物发现、试验设计，甚至上市后的不良反应监测。
2021年，FDA推出了一项五点行动计划，旨在规范基于机器学习和AI的医疗设备，促进创新，同时确保这些产品的有效性和安全性。该行动计划也符合国会指导，鼓励FDA制定灵活的法规，允许开发者在不需频繁和持续获得FDA批准的情况下更新AI产品。然而，文章强调，这些法规必须考虑在整个生命周期内管理AI产品，特别是通过在临床环境中部署后的持续性能监控。
FDA的医疗产品中心还确定了AI发展的四个重点领域，包括提高公共卫生安全、支持监管创新、推广最佳实践和协调标准，以及推进AI性能评估研究。
FDA监管AI的关键概念
FDA旨在通过使用美国法律和全球标准来塑造AI医疗产品的监管。与国际医疗器械监管机构论坛等机构的合作使FDA能够在全球范围内推动AI标准的统一，包括管理AI在药物开发中的作用和通过国际合作现代化临床试验。
随着AI技术的快速发展，FDA面临的主要挑战之一是有效处理大量AI提交，同时确保创新不受阻碍且安全不受妥协。此外，AI系统的持续上市后监控对于确保其在多样且不断变化的临床环境中长期按预期运行至关重要。这需要一个灵活且基于科学的监管框架，例如软件预认证试点计划，该计划允许对AI产品进行持续评估。
基于风险的方法来监管AI医疗设备还允许对广泛的AI模型采取灵活的措施。例如，用于行政功能的简单AI模型受到较少的监管，而嵌入心脏除颤器中的复杂AI模型则受到更严格的监管。审查者提供的另一个例子是用于检测败血症的AI工具——Sepsis ImmunoScore，该工具被归类为II类设备，需要特别的安全措施以应对潜在的偏见或算法故障风险。
审查强调，需要专门的监管工具来评估不断增长的AI模型，包括生成式AI和大型语言模型。这尤为重要，因为不可预测的输出（如错误诊断）在临床工作流程中的部署前后都需要彻底评估。
结论
综上所述，该审查指出，灵活的监管方法和跨行业、国际组织和政府的协调努力，以及FDA的严格监管，对于跟上医学中AI技术的快速发展，确保AI工具的有效性和安全性至关重要。作者认为，对AI工具整个生命周期的严格关注，特别是上市后的监控，对于确保它们在临床实践中继续安全有效地运行至关重要。他们认为，应以患者的健康结果而非财务优化为导向，将AI整合到医疗保健中。他们还警告说，平衡创新与患者护理必须始终是优先事项，以防止AI主要受财务激励驱动。
(全文结束)
