最近，Haider J. Warraich, MD、Troy Tazbaz 和 Robert M. Califf, MD 在《美国医学会杂志》上发表了一篇文章，回顾了美国食品药品监督管理局（FDA）在人工智能（AI）监管方面的历史，并提供了FDA在监管医疗产品、临床研究和药物设计中潜在AI应用时面临的考虑因素及挑战，以及适应需要持续反馈的新技术时所面临的挑战。
FDA自近30年前就开始评估AI赋能的医疗设备，1995年FDA首次批准了一部分AI赋能的设备——PAPNET，这是一种采用神经网络防止宫颈癌误诊的软件。此后，FDA已授权近1000种AI赋能的医疗设备。近年来，AI开发及其在医疗设备和药物设计中的应用取得了实质性进展，特别是在2020年至2021年间，利用AI进行药物发现和开发的新药申请数量增加了10倍。
FDA的医疗产品中心指出了在医疗产品中整合AI的四个重点领域：（1）促进与开发者、患者团体、学术界、全球监管机构和其他利益相关方的合作，以保护公共健康；（2）促进美国和全球市场之间和谐标准、指南、最佳实践和工具的发展；（3）推进支持创新的监管方法的发展；（4）支持与AI性能评估和监测相关的研究。2021年1月，FDA宣布致力于为AI赋能的医疗设备开发量身定制的监管框架。作为这一承诺的一部分，FDA已发布了几项关于AI和健康相关软件的指南，包括2022年发布的有关临床决策支持软件的最终指南。这些指南还明确了FDA关于2016年《21世纪治愈法案》修正的医疗器械定义的政策，该法案排除了某些类型的医疗软件，例如旨在维护或鼓励健康生活方式但与疾病的诊断、治疗、缓解、预防或无关的软件。指南旨在通过帮助开发者了解AI模型中的哪些变化需要提交FDA审查，使开发更加高效，因为AI领域的变化非常迅速。
Warraich等人指出，监管方案必须具有灵活性，以支持医疗设备应用中多样化的AI模型，这些模型的风险程度各不相同，同时尽可能符合全球标准。AI赋能设备面临的一些特定风险包括算法故障、模型偏见、医生过度依赖、错误解释或不良算法输入。生成式AI应用，如大型语言模型（LLMs），可能会产生幻觉，到目前为止尚未获得FDA的批准。鉴于这些风险以及AI模型的演化和学习能力，作者指出，有必要对以前未与传统医疗产品相关的AI赋能设备进行上市后监测。传统的医疗产品在初次批准后不会改变，而作者建议，由于AI的环境敏感性，需要在其使用的环境中进行连续和反复的监测，这种持续监测所需的努力可能超过任何当前设想的监管方案。建议开发健壮的框架来监测医疗保健中AI辅助决策的起点包括心脏病学、肿瘤学或其他有大量循证支持临床决策或低风险临床工作流程的应用，这些工作流程不涉及紧急情况，可以留出足够的时间彻底评估AI输出。
作者指出，FDA将继续积极参与确保有意关注健康结果，但所有相关方都有集体责任开发和优化解决方案，以评估AI在医疗设备、药物设计和临床研究中的持续安全性和有效性。
(全文结束)
