本周早些时候，美国食品药品监督管理局（FDA或“该机构”）发布了其长期期待的最终指南（“指南”），涉及使用人工智能/机器学习（AI/ML）软件的设备的预设变更控制计划（PCCP）。FDA表示，发布该指南的目标是“提供一种前瞻性的方法，以促进安全有效的AI驱动设备的开发”，这标志着该机构在努力跟上或至少不被快速发展的AI/ML创新所远远超越方面取得了显著进展，特别是在数字健康技术中的应用。
A. AI面临的挑战
FDA在监管AI驱动设备软件功能（AI-DSF）方面的主要挑战在于，这些功能的自我修改性质并不适合该机构长期以来用于医疗设备的框架，特别是医疗设备的“修改”。自1976年《医疗器械修正案》以来，FDA一直通过要求已合法上市的设备制造商（最初需要510(k)许可、De Novo分类或上市前批准（PMA））提交补充510(k)通知、De Novo申请和/或批准申请，来严格控制上市后的设备修改，这些修改显著改变了或修改了设备的设计、组件、制造方法或预期用途（即，“可能显著影响设备的安全性或有效性，或对设备的预期用途进行重大更改或修改”的修改）。然而，监管AI-DSF，这些功能设计为不断自我修改，显然需要不同的方法。FDA自2019年首次发布关于这一主题的讨论文件以来，一直在公开探讨这种方法。现在，近六年后，FDA的首个最终指南终于问世。
B. 新的PCCP框架
该指南首先承认AI-DSF的开发是一个“迭代过程”，并且其新的PCCP框架旨在提供“合理的安全保障”。FDA不再要求AI-DSF制造商在设备合法上市后为重要修改获得许可和/或批准，而是要求AI-DSF制造商在初始营销提交中（即510(k)通知、De Novo申请或PMA申请）包含PCCP。作为上市前审查过程的一部分，FDA将审查PCCP，以确保设备在实施PCCP中描述的每个修改时无需额外的营销提交即可继续保证其安全性和有效性。FDA不会在每次修改发生时进行审查——这实际上是无法监控和评估的——而是审查由人类定义的目标（即算法），这些目标旨在指导技术的持续自我修改。
该指南概述了FDA对AI-DSF PCCP营销提交内容的建议，通常包括：(i) 对具体计划的设备修改的详细描述（即“修改描述”）；(ii) 与这些修改相关的开发、验证和实施方法，以确保设备在整个预期使用人群中的持续安全性和有效性（即“修改协议”）；(iii) 对计划修改的益处和风险的评估及风险缓解措施（即“影响评估”）。长达49页的指南对PCCP的三个要素（即修改描述、修改协议和影响评估）进行了详细的说明，但指出制造商不应依赖该指南来了解“可能需要在AI-DSF的营销提交中包含的所有内容”——也就是说，FDA谨慎地澄清，PCCP只是AI-DSF营销提交的一部分。
该指南中规定的PCCP要求范围广泛，适用于AI-DSF的“自动”修改（即由软件自动实施的修改，也称为“连续学习”）和“手动”修改（即涉及需要人工输入、操作、审查和/或决策的步骤，因此不是自动实施的修改）。尽管该指南没有明确说明这一点，但可以假设它适用于所有“未来”的营销提交，因为该指南没有任何迹象表明该要求将追溯适用。
C. 展望未来
毫无疑问，FDA政策的命运，尤其是仅通过非正式指南（而非公告和评论规则制定）实施的政策，在面对即将上任的新政府时存在一定的不确定性，新政府承诺进行重大变革，并以减少监管为中心。为了保护其新政策免受即将到来的政府逆转，该指南详细列出了FDA在2019年至2024年间收到和考虑的所有利益相关者的意见——这一做法我们通常在该机构发布最终规则时看到，但在非正式指南中较为少见。
然而，鉴于FDA的第一份讨论文件（涉及在数字健康技术中监管AI-DSF的必要性）是在前特朗普政府期间发布的，再加上推动跨行业监管AI的更大动力，这可能是FDA监管体系中少数几个可能获得两党广泛支持的领域之一。无论即将上任的政府是否会通过正式规则制定将FDA的PCCP政策固定下来，还是监管机构和其他关键利益相关者将呼吁国会为AI-DSF设定政策，新指南中概述的政策至少目前仍然有效，使用AI/ML的医疗设备制造商应开始将其产品开发计划中纳入修改描述、修改协议和影响评估的准备。
注释：
[1] 参见21 CFR 807.81(a)(3)。
[2] 参见《基于人工智能/机器学习（AI/ML）的医疗器械（SaMD）修改的拟议监管框架——讨论文件和征求反馈意见》。
[3] 参见21 CFR 807.87，21 CFR 860.220，21 CFR 814.20。
(全文结束)
