美国食品和药物管理局（FDA）官员指出，在日益增长的人工智能（AI）领域中，需要安全、有效和值得信赖的工具，这既涉及该机构的监督，也涉及利益相关者的合作，以适应AI带来的独特挑战。“生物医学和医疗保健领域的AI历史进展必须与更好地了解AI在其部署环境中表现的努力相匹配，”FDA的Haider Warraich及其同事在《美国医学会杂志》（JAMA）上发表的一篇特别通讯中解释道，“这将需要一个全面的方法，远远超出FDA的范围，涵盖消费者和医疗保健生态系统，以跟上加速的技术进步。”
FDA官员概述了与AI相关的领域中需要更好的理解和关注，包括全球监管、跟上AI的变化、灵活的方法、在医疗产品开发中的应用、准备应对未知因素、生命周期管理、受监管行业的责任、强大的供应链、吸收初创企业和学术界的想法，以及从优先考虑财务回报转向优先考虑健康结果。如果没有这些努力，AI可能会像其他在医疗保健环境中部署的通用技术一样无法达到预期效果，甚至可能在无人看管的模型性能下降或过于关注财务回报而忽视临床结果的影响时造成重大危害，他们表示。
自1995年FDA首次批准使用AI的设备以来，该机构已批准了超过1,000种基于AI的医疗设备，自2020年以来，基于AI的设备提交数量增加了十倍，作者说。为此，该机构更频繁地讨论AI，于2022年发布了一份关于临床决策支持（CDS）软件（包括基于AI的应用程序）的有争议的最终指南文件，并于2024年3月发表了一篇论文，阐述了FDA及其中心如何为医疗产品中使用AI的监管方法进行协调。（相关报道：行业组织要求FDA撤回CDS指南，《监管焦点》，2023年2月9日）
美国的AI监管需要与全球标准保持一致，作者指出，FDA是国际医疗器械监管机构论坛工作组的一员，该工作组专注于AI，同时也是国际协调会议工作小组的成员。对于医疗设备中的AI，需要灵活的方法，“基于风险的监管方法将需要仔细考虑和适应，”作者说，因为不同的AI模型可能存在于FDA在监管方面不同程度参与的设备中。FDA和利益相关者还需要跟上AI的发展步伐，这涉及“适应性的、基于科学的监管方案”，该机构通过其对医疗设备全生命周期方法的重点以及软件预认证试点计划等举措来支持这一点。“这些变化的数量及其影响也表明，行业和其他外部利益相关者需要加强整个生态系统中AI的评估和质量管理，超越FDA的管辖范围，”他们写道。
关于AI在医疗产品开发中的应用，作者指出，该机构“看到AI在药物开发和临床研究中的巨大潜力”，包括在上市前、上市后监测和评估中的应用。“通过分析大量真实世界数据，AI系统可以检测到可能改善发现潜在安全问题、意外好处或性能低效的能力的模式和异常，”作者解释道。“这种主动的方法可能使不良事件的识别更快，从而实现及时的干预和纠正。此外，AI可以综合分析临床试验、上市后监测和患者反馈，提供以前分散在各个领域的产品的生命周期的全面概览。”
AI领域的一个独特挑战是生成式AI（如大型语言模型）的潜在未知因素，这将需要个人和组织的监督，除了监管审查外，可能还需要专门的工具来评估生成式AI的输出。AI的性能还应在“其使用的环境中”进行评估，作者说，这可能需要一个“类似于重症监护病房中监测患者的信息化生态系统”的系统，以便采用此类AI工具的卫生系统使用。
“AI的发展说明了一个重大的质量和监管难题，”作者解释道。“由于许多AI模型的安全性和有效性取决于对其操作特性的反复评估，所需的努力规模可能超出任何现有的监管方案。”虽然传统医疗产品在分销时基本上是相同的，但AI驱动的医疗产品却并非如此，他们指出。另一个需要考虑的问题是AI在缓解药品短缺方面的潜在用途，例如通过预测或快速响应仿制药或低成本设备的短缺。然而，AI模型可能容易出现故障和短缺，减少这些模型对技术故障的脆弱性“必须成为这些技术的一部分”，作者说。“众多挑战之一将是确定所有开发者，包括小型实体，确保AI模型在整个产品生命周期中在不同环境中安全有效的艰巨任务，”他们写道。这包括平衡初创公司、企业家和学术机构等新进入者的新鲜想法与大型科技公司所需的“资本、计算资源和专业知识”。
FDA还认识到在优化AI技术的财务回报与选择优先考虑健康结果之间的紧张关系。“许多可能惠及患者的AI创新可能会以传统就业、资本结构和医疗保健收入流为代价，”他们解释道。“然而，太多美国居民生活在医疗沙漠中，即使在医生密集的地区也存在初级保健短缺，AI算法可以指向目前不盈利的更多预防服务。”作者指出，需要“有意关注健康结果”以克服优化财务回报的负面影响，并且“负责任的集体进步”将需要广泛的跨机构合作。“FDA和其他机构的严格监督旨在通过维护监管领域的高公众信任度来保护受监管产品的长期成功。生物医学、数字和医疗保健行业的利益在于识别和处理不负责任的行为者，避免误导性的夸大宣传，”作者说。“受监管行业、学术界和FDA需要开发和优化评估AI在医疗保健和生物医学中持续安全性和有效性的工具。FDA将继续发挥核心作用，重点关注健康结果，但所有相关行业都需要以这种潜在的变革技术应得的谨慎和严谨态度对待AI。”
(全文结束)
