英国拥有一个限时的机会,可以建立一个世界领先的、实用的、以患者为中心的医疗保健人工智能监管框架,我们必须正确把握这一机会,德比和伯顿NHS基金会信托医院的首席数据和分析官罗兰·阿吉迪(Rowland Agidee)表示。
在我的职业生涯中,我一直在临床风险、数据和医疗服务交付这一令人不安的交叉领域工作,这里数字技术的雄心与一线医疗的现实相遇。在这个领域,我清楚地认识到,医疗保健中人工智能的未来将不取决于技术有多聪明,而取决于我们治理它的能力。
我们正处于关键时刻
英国已建立了一些真正具有进步意义的基础,包括英国药品和保健品监管局(MHRA)的AI气闸机制、国际监管合作,以及日益认识到人工智能不仅仅是一款普通软件。但我们尚未拥有的是更为重要的东西——一个连贯的生命周期框架,确保人工智能从设计、部署到后续使用全程安全、负责且值得信赖。
医疗保健人工智能并非静态。模型会学习,数据会漂移,临床路径会变化。然而,我们的许多监管和采购思维仍假设技术表现得像固定医疗器械一样。正是这一差距导致患者风险、机构责任和公众信任开始出现裂痕。
从我在医疗服务交付内部的视角来看,真正的危险并非创新进展过快,而是治理未能跟上步伐。
我们已经知道如果做错会有什么后果:工具在缺乏明确保障的情况下部署,临床医生在缺乏可见性的情况下承担责任,医疗机构面临安全和法律风险。当出现问题时,所有人都在慌乱中确定谁应负责。
我们能够做得更好
从国际上看,发展方向很明确。欧盟将医疗保健人工智能视为固有的高风险领域。美国食品药品监督管理局(FDA)正朝着适应性系统的生命周期控制迈进。新加坡和韩国强制要求真实世界监测和临床保障。中国已将持续监督纳入法律。这些并非官僚障碍,而是使创新能够安全扩展的支撑结构。
英国应与这一全球监管趋同保持一致并引领其发展。
这意味着对诊断和治疗性人工智能采用高风险分级,要求结构化的保障案例,规范更新控制方式,并创建类似人工智能"黄卡"计划的机制,以便在患者受影响前而非之后及时发现真实世界中的危害和数据漂移。
这也意味着要坦诚面对责任问题
医疗保健中的人工智能是一个共享系统。开发者必须提供证据、安全机制和透明度;NHS医疗机构必须负责任地进行整合、监测和治理;临床医生必须在安全的操作框架内应用人类判断。责任应反映这些共享角色,而不应模糊且危险。
或许最重要的是,我们需要停止将监管视为阻碍进步的因素。实际上,明确的治理会加速采用。当委托方知道"良好"的标准是什么,当供应商了解所需证据,当临床医生相信工具正在被监测时,人工智能的发展会更快而非更慢。
英国拥有难得的机会,建立一个既具有全球公信力又能在NHS这样复杂的系统中实际部署的监管模式。如果我们做对了,不仅能够保护患者,还将成为全球安全医疗人工智能的开发、测试和信任之地。
这就是我们追求的目标,而且仍然触手可及。
【全文结束】

