美国食品药品监督管理局（FDA）宣布完成其首次人工智能辅助（AI辅助）科学审查试点，并计划在2025年6月30日前将生成式人工智能工具应用于所有中心。这一计划的时间表得到了FDA局长马丁·马卡里博士的确认，他在华盛顿特区举行的食品和药物法律研究所年度会议上发表了讲话。
如果该计划按计划进行，它将标志着监管领域的重大转变，引入了效率的同时也带来了关于AI审查的可靠性和有效性的新问题，以及寻求保护专有数据并确保在AI集成环境中符合监管要求的申办方需要考虑的问题。作为这一转型的一部分，FDA将在其内部数据平台上部署安全的生成式AI系统，旨在简化重复性审查任务、加快时间表并减少科学审查员的行政负担。尽管这一现代化努力对公共卫生具有巨大潜力，但也引发了关于监管透明度和可靠性、数据安全以及申办方保密性的关键问题。
FDA领导层拥抱AI以提高效率
在FDA首次AI辅助医疗产品审查之后，该机构承诺在2025年6月30日前将生成式AI的应用扩展到所有中心。局长马卡里强调了现代化的紧迫性，在X上发布了一条消息：
“为什么一种新药上市需要超过10年的时间？为什么我们还没有用AI和其他技术实现现代化？我们刚刚完成了首个AI辅助的科学审查，这只是开始。”
FDA药品评价研究中心（CDER）药物评价科学办公室副主任刘金忠（Jinzhong Liu）认为这是“游戏规则改变者”，AI辅助审查使原本需要几天才能完成的任务在几分钟内完成。
FDA现在计划将AI的使用范围从数据审查扩展到申请完整性检查、文档摘要、数据提取以及提交一致性分析。
随着这一过渡的展开，申办方需要为与AI辅助审查相关的新问题和风险做好准备，包括在申请审查期间透明度降低、潜在偏见以及识别和质疑AI生成结果的挑战。
随着FDA的推进，它需要考虑到现有的法定和监管框架、在其进行申请审查时的法律义务以及允许的机构使用申办方和患者数据的方式。FDA生成式AI系统的实施将由FDA的新首席AI官杰里米·沃尔什和最近领导CDER业务信息办公室的斯里达尔·曼塔领导。
应对基于AI的拒绝和不利发现
随着FDA将生成式AI整合到监管审查过程中，申办方应关注这一转变带来的新兴法律、安全和透明度风险。一个主要的关注领域是应对基于AI的拒绝或不利发现。FDA在申请审查中使用AI引入了新的风险，涉及监管决策的公平性和透明度。
例如，如果FDA基于AI生成的分析拒绝或延迟处理营销申请，申办方可能会面临以下挑战：
- 有限的可见性，无法了解AI对决策的影响程度，引发对不透明或未经验证推理的担忧。
- AI可能过度依赖模式检测或问题标记算法，这些算法可能误解上下文或缺乏科学细微差别。
- 由于模型偏见、数据限制或过度标记倾向导致的不合理缺陷或拒绝的风险。
- 在没有明确访问底层输出和逻辑的情况下，难以质疑基于AI的决定。
- 机构审查人员本身可能不了解AI系统在进行数据评估时使用的方法。
这些风险突显了AI系统验证、AI数据评估的可追溯性和可再现性、模型可解释性以及在使用AI进行监管决策时明确机构沟通的重要性。
数据访问、所有权、保密性和商业秘密
尽管FDA努力通过利用AI来加快产品申请审查，但这是一个全新的法律领域。目前尚不清楚AI工具正在接受哪些数据训练，以及如何在监管决策中部署这种机器学习。但在批准营销申请的背景下，FDA依赖此类数据的权限可能受到现行法律的限制，仅适用于根据《食品、药品和化妆品法》第505(b)(2)条和《公共卫生服务法》第351(k)条提交的申请。
同样，在保护免于公开披露的信息方面，也出现了新的问题。根据《商业秘密法》、《信息自由法》（FOIA）以及这些法规的实施细则，FDA有义务保护商业秘密和机密商业信息（CCI）。然而，生成式AI在FDA保护、访问、处理、使用和披露商业秘密信息和CCI方面引入了新的挑战。除了数据所有权和使用问题外，还存在特定的FOIA相关风险。在此背景下，申办方应预期其数据可能被AI系统使用和分析，并重新关注将其机密提交标记为“机密商业信息/商业秘密”。鉴于AI辅助系统可能生成申请审查摘要或索引，申办方应充分利用FDA提供的机会，提出对这些文件的删减建议，然后再通过FOIA发布。
下一步
FDA计划在2025年6月30日前在整个机构范围内部署生成式AI，这将代表监管审查的重大变化。虽然这一现代化举措有望提高效率，但它也带来了新的法律、数据安全和透明度挑战，这些挑战可能以难以预测的方式影响申办方及其开发的产品。
(全文结束)
