随着AI驱动的医疗设备的兴起，美国食品药品监督管理局（FDA）正在征求关于AI安全性和有效性考虑的意见和反馈，以准备即将举行的数字健康咨询委员会会议。此次会议将特别关注生成式人工智能（AI）设备的整个产品生命周期考虑，包括上市前性能评估、风险管理以及上市后性能监控。随着FDA继续制定和完善其关于AI的政策、指南和法规，医疗设备制造商应准备好应对新的法律挑战，以及不断演变的安全和合规风险。
当前AI驱动医疗设备的现状
目前，FDA已批准约950种AI驱动的医疗设备上市销售，这一数字预计将继续增长。AI驱动的医疗设备是指利用AI技术来增强患者诊断和治疗的医疗设备，包括通过数据分析和机器学习（ML）算法的应用。这些AI驱动的医疗设备正在改变医学，范围从能够解释诊断影像的算法到能够根据持续数据监测自动调整患者治疗的植入式医疗设备。尽管这些设备可以为患者带来显著的好处，但FDA监管机构仍对潜在的风险因素表示担忧，如有限的训练数据、偏见、性能指标的差距以及最终用户的错误。
产品生命周期中的透明度和风险演变
早在2021年，FDA与加拿大卫生部和英国药品和保健品管理局（MHRA）合作，制定了良好的机器学习实践（GMLP）指导原则，并强调了透明度的重要性。随着生成式AI的兴起，这些考虑变得更加重要。例如，AI驱动设备的用户（通常是诊断和/或处方医生）必须考虑比传统医疗设备更多的不同变量。这不仅仅是提醒物理和/或操作风险的问题，还包括AI算法与用于训练算法的数据集之间的复杂相互作用。FDA担心最终用户可能不理解AI的局限性及其能力如何受到患者特征、设备使用方式以及设备可访问的数据的影响。
一个监管方面的担忧是，AI驱动的医疗设备可能存在数据表征的局限性，这意味着某些患者群体可能不适合使用该AI驱动的医疗设备。例如，如果AI驱动的设备仅使用成人数据开发，则不适用于儿童。然而，制造商在设备开发过程中可能会无意中遗漏某些患者群体的数据，如果这些差距未被发现，可能直到商业化后才会显现。更具有挑战性的是，这些AI系统可以设计为随着时间的推移不断学习，因为设备会吸收新患者的数据。这意味着制造商可能难以预测或测试未来可能出现的风险，因为AI会消化更多数据或遇到意外情况。鉴于这些潜在风险，FDA可能会要求制造商在整个产品生命周期中持续更新警告。随着FDA即将召开的委员会会议将重点关注上市后监控，AI驱动的医疗设备制造商应准备好应对更严格的FDA上市后监控要求。
平衡AI与临床判断
医疗设备领域的变化还在于制造商进入了以前由医疗提供者独自承担的风险区域。在AI驱动的医疗设备出现之前，制造商可能会向医疗提供者提供风险标签和说明，有时甚至提供培训，但最终的医疗决策由提供者做出。现在，AI驱动的设备可以提供实时输出，帮助医疗提供者做出决策。最近的一项研究表明，仅ChatGPT-4在诊断几个病例方面的表现就优于两个医师组，其中一个组使用了ChatGPT-4作为资源。虽然这些输出非常有益，可能比人类更准确，但FDA优先考虑向医疗提供者全面透明地传达这些输出的可靠性。一种用于风险管理的GMLP是提供置信区间。例如，AI驱动的设备可能会以95%的置信度声明心脏移植手术中存在高感染风险。置信区间可以帮助手术团队了解AI建议的可靠性。风险管理是即将召开的咨询委员会会议的另一个考虑领域，因此FDA可能会考虑这些类型的限定词对降低患者风险的重要性。然而，最终制造商与其最终用户之间责任和法律责任的分配仍有待确定。
结论
由于AI的性质，FDA继续考虑AI驱动设备的风险和保障措施。随着这一监管环境的发展，医疗设备制造商应密切关注FDA的指导和AI的进步，以确保AI驱动的医疗设备能够安全有效地优化患者结果，符合监管要求。
(全文结束)
