FDA和加拿大卫生部提前透露未来AI法规 加拿大设备机构计划发布机器学习指南，FDA计划明年发布关于生命周期管理和上市前提交的AI设备草案指导

FDA, Health Canada give sneak peek into future AI regs

FDA和加拿大卫生部在周二的Advamed医疗器械会议上就当前行业最热门的话题之一——人工智能发表了看法。美国食品药品监督管理局（FDA）已经授权了近1000种人工智能驱动的医疗设备，而加拿大卫生部也授权了数百种。但关于这项技术仍有许多未解的问题，例如如何监控能够随时间适应的算法的性能，以及如何监管生成式AI工具。FDA和加拿大卫生部的监管人员在医疗器械会议的小组讨论中分享了他们对这些挑战的看法，并提供了未来法规的一瞥。

FDA数字健康卓越中心的主任特洛伊·塔兹巴兹（Troy Tazbaz）和强生公司数字健康和美国政策的高级总监黛安·约翰逊（Diane Johnson）在周二的Advamed医疗器械会议上发言。塔兹巴兹表示：“我们看到的问题是，人们非常兴奋于这些技术的能力，但不一定关注一旦开发和集成产品本身会发生什么。”该机构在周二发表的一篇《美国医学会杂志》（JAMA）文章中强调了这一方法的必要性，指出“鉴于‘解锁’模型的进化能力和AI对上下文变化的敏感性，越来越明显的是，应在使用环境中监控AI的性能。”

其中一个挑战是如何监控算法的性能，以及谁应该负责这项任务。例如，卫生系统可以承担这一角色，但其临床信息系统目前无法监控这些干预措施的长期安全性和有效性。FDA写道。制造商进行的上市后审查的一个例子是FDA授权的第一个败血症检测工具。FDA建立了一项特别控制，要求制造商Prenosis提供上市后性能管理计划，以展示产品如何继续工作，鉴于该产品类型存在偏见风险，FDA的设备和放射健康中心的数字健康副主任杰西卡·保罗森（Jessica Paulsen）说。

目前，所有由FDA授权的AI/机器学习设备都是锁定的，因此未经FDA批准不得更改算法。然而，国会在2022年授予FDA权限，通过一种称为预定变更控制计划（PCCP）的政策授权某些预设的医疗设备变更，该文件描述了可以对设备进行哪些修改以及如何评估这些修改。

加拿大将实施PCCP用于AI

加拿大的医疗器械监管机构计划在审查了2023年共享的草案反馈后，发布关于机器学习驱动的医疗器械的指南。加拿大医疗器械司数字健康部门经理马克·拉穆雷（Marc Lamoureux）在会议期间表示，最终指南将在“未来几个月”发布。拉穆雷说，该指南涵盖了偏见、训练数据的代表性以及透明度。它还包括预定变更控制计划，监管机构现在接受这些计划。监管机构还可以对某些医疗器械的许可证附加条件，以确保性能得到适当监控，并确保AI模型适用于加拿大人口。

美国、加拿大和英国的医疗器械监管机构在过去曾合作制定良好的机器学习实践、透明度和PCCP。FDA在今年早些时候发布了关于PCCP的草案指南，并希望尽快发布最终指南，保罗森说。

(全文结束)