人工智能(AI)和机器学习(ML)软件在包括医疗保健在内的各个行业中经历了显著增长。这些正在发展的技术已经具有快速准确地检测感染引起的并发症的潜力。然而，将这些新设备整合到已建立的监管流程中已被证明具有挑战性。此外，对于产生不可预测输出的设备，人们存在信任担忧。由于其独特特性，特定的利用AI/ML技术的医疗器械必须经过调整后的监管流程才能上市。
AI/ML软件的优势
医疗器械行业内的基于AI的软件正在兴起，截至2025年3月25日，FDA已授权美国市场销售1015多款搭载AI功能软件的设备¹。FDA的AI/ML授权医疗器械列表¹中包括Sepsis ImmunoScore（脓毒症免疫评分）。该产品于2024年4月获批，是首个FDA授权的用于辅助脓毒症预测和诊断的AI软件²,³。Sepsis ImmunoScore使用AI/ML软件从电子病历中提取包括人口统计学数据、生命体征和血培养结果在内的输入，使ImmunoScore能够输出该患者在24小时内出现脓毒症或发展为脓毒症的风险³。
在2024年11月发表的一项前瞻性研究中，解释了ImmunoScore的AI算法是通过患者推导队列开发的，并在内部和外部队列上评估了其准确性³。该研究结果得出结论，ImmunoScore具有"预测脓毒症的高总体诊断准确性"，并且对包括"住院死亡率、住院时间、24小时内进入重症监护室、24小时内使用机械通气以及24小时内使用血管加压素"在内的次级结果"高度可预测"。ImmunoScore仅是AI辅助医疗专业人员进行知情决策潜力的一个例子。尽管这些设备的能力看起来很有前景，但对其可信度的担忧必须由监管机构和标准化组织来解决。
人工智能/机器学习软件
了解各种AI软件之间的差异对于认识利用这些系统的设备需要加强监管至关重要。在AAMI（医疗仪器促进协会）/BSI（英国标准协会）关于AI的倡议的第二份白皮书中，提供了医疗器械行业中使用的AI系统的概述⁴。这包括基于规则的AI，即"通过应用静态规则模仿人类行为做出可预测决策的系统"⁴，与可以学习输入并做出判断的数据驱动机器学习系统进行比较⁴。数据驱动的ML系统可进一步分为锁定ML模型和持续学习模型⁴。在锁定机器学习模型中，算法和输出不会自动改变，需要外部批准才能更改⁴，而持续学习模型可以基于变化自动调整其算法并更新输出⁴。从监管角度来看，这些持续学习模型最具挑战性，因为算法可能自动变化，使得预测结果变得困难。
对AI/ML的担忧
AI在医疗器械行业中的一个重大担忧，特别是针对持续学习模型，是信任这些不可预测的系统来执行以前由人类执行的任务，如果它们未能按预期执行，可能会对患者安全构成风险。AAMI/BSI倡议通过描述在医疗器械行业中，信任通常不仅通过对设备机制和技术的概述获得，还通过对设备产生"可靠和可预测输出"的验证来获得，从而认识到这一特殊情况⁴。这正是许多人的担忧所在：如果AI/ML设备在验证后可以改变其输出，它们如何能被信任来产生那些可靠和可预测的输出？
AAMI和BSI针对这一担忧的一些考虑包括：用于训练算法的输入数据应该是"预先定义、相关且适当"的，应实施性能指标以允许对预测输出进行实时监控⁴。FDA的指导还建议开发人员在设备上市前描述预期的算法变更⁵，以减少使用后出现未知和不可预测输出的可能性。
AI/ML医疗器械的监管
正如存在不同类型的AI技术一样，从监管角度来看，还有其他类型的软件可以用于(或作为)医疗器械。根据FDA的说法，医疗器械行业内的主要软件类型包括作为医疗器械的软件(SaMD)、用于医疗器械中的软件以及用于设备制造过程的软件⁶。当AI/ML软件"旨在治疗、诊断、治愈、缓解或预防疾病或其他状况"时，它被视为医疗器械，并由FDA和国际医疗器械监管机构论坛称为SaMD⁷。
此外，医疗器械(包括SaMD)可由FDA分为3个类别。这些分类提供了设备对患者风险的见解。例如，I类设备对患者风险较低，而III类设备对患者风险最大。FDA根据设备的分类有不同的上市前提交要求。如果设备被分类为I类或II类，则需要提交510(k)以销售该设备(不包括豁免)⁸。然而，由于III类设备"支持或维持人类生命，对预防人类健康损害具有实质性重要性，或存在不合理疾病或伤害风险"⁹，并且对患者风险最高，这些设备需要不同类型的上市前提交。III类设备需要由FDA进行上市前批准申请(PMA)，提供该设备安全使用的科学证据⁹。
AI/ML SaMD在PMA流程完成后适应并改变其算法的独特能力为监管这些设备带来了新的挑战。2019年，FDA发布了一份讨论文件并请求反馈，审查对基于AI/ML的SaMD的修改流程⁷。该文件指出，FDA期望算法变更在上市前提交中被预期和描述⁵。此外，其中一些算法变更仍将需要上市前审查⁵。
根据对讨论文件请求的反馈，FDA发布了AI/ML SaMD的行动计划⁵,¹⁰。在此行动计划中，讨论了预设变更控制计划(PCCPs)，具体说明了如何在PCCP中捕获预期和预指定的变更，这可能避免每次算法变更时都需要新的PMA⁵。这种方法可能更高效，允许预期和描述变更，可能不需要PMA。当然，如前所述，那些可能带来更高风险或与PCCP中描述不同的变更可能仍需要PMA。该行动计划还提到"FDA联络员参与[AAMI]AI委员会的标准制定工作，以解决AI驱动医疗器械的风险管理"¹¹，并且FDA致力于继续与AAMI和BSI等组织合作，解决AI/ML发展问题¹⁰。
2023年，FDA发布了一套PCCPs的指导原则⁵,¹²。根据AAMI Array作者Eric Henry的说法，截至2024年10月，FDA发布的唯一AI/ML特定指南是PCCPs的草案指南¹¹。2024年12月，FDA发布了针对AI设备PCCPs的营销提交建议的最终指南¹³。2025年1月，FDA发布了额外的草案指南，旨在"[提供]与AI设备的总产品生命周期(TPLC)方法一致的生命周期管理和营销提交建议"¹⁴，该指南也引用了PCCPs提交建议的最终指南。FDA要求对这份草案指南的评论于2025年4月7日之前提交¹⁵。
结论
AI和ML技术有可能成为未来医疗器械使用的重要资产。随着这项技术的使用增长，医疗保健专业人员必须继续倡导对这些设备的适当监管。倡导对这些设备的调整监管流程使行业专业人员能够不断拥抱不断发展的技术，同时保持对这些设备安全可靠使用的信心。
参考文献：
- 人工智能和机器学习(AI/ML)授权医疗器械。FDA。2025年3月25日。访问于2025年5月22日。
- 根据513(f)(2)节(新提案)进行的设备分类。更新于2025年6月2日。访问于2025年5月22日。
- Bhargava A, López-Espina C, Schmalz L等。FDA授权的用于脓毒症预测的AI/ML工具：开发和验证。NEJM AI。2024;1(12)。doi:10.1056/aioa2400867
- 《医疗器械中的机器学习AI：调整监管框架和标准以确保安全和性能》。AAMI；2020年。doi:10.2345/9781570207914
- Reddy S. 人工智能驱动的软件作为医疗器械监管的全球协调：应对挑战和统一标准。Mayo Clin Proc: Digit Health。2024;3(1):100191。doi:10.1016/j.mcpdig.2024.100191
- 作为医疗器械的软件(SAMD)。FDA。2018年12月4日。访问于2025年5月22日。
- 《对基于人工智能/机器学习(AI/ML)的作为医疗器械的软件(SaMD)修改的拟议监管框架》。FDA；2019年。
- 对您的医疗器械进行分类。FDA。2020年2月7日。访问于2025年5月22日。
- 上市前批准(PMA)。FDA。2019年5月16日。访问于2025年5月22日。
- 《人工智能/机器学习(AI/ML)作为医疗器械(SaMD)的行动计划》。FDA；2021年。访问于2025年5月22日。
- Henry E. 医疗器械中的AI/ML：美国与欧盟监管视角。AAMI。2024年10月23日。访问于2025年5月22日。
- 预设变更控制计划用于机器学习授权医疗器械：指导原则。FDA。2024年12月3日。访问于2025年5月22日。
- 预先确定变更控制计划的营销提交建议，用于人工智能授权设备软件功能。FDA。2024年12月3日。访问于2025年5月22日。
- 人工智能授权设备软件功能：生命周期管理和营销提交建议。FDA。2025年1月7日。访问于2025年5月22日。
- 人工智能授权设备软件功能：生命周期管理和营销提交建议；行业和食品药品管理局工作人员的草案指南；可用性。Federal Register。2025年1月7日。访问于2025年5月22日。
【全文结束】