医疗保健中的自主AI代理:德累斯顿研究人员提出确保医学AI安全实施的监管方案Autonomous AI agents in healthcare: Dresden researchers on regulatory solution for safe implementation of AI in medicine

环球医讯 / AI与医疗健康来源:idw-online.de德国 - 英语2025-08-20 06:12:34 - 阅读时长2分钟 - 843字
德累斯顿研究人员发现现有医疗器械监管框架难以匹配自主AI代理的动态特性,提出自愿替代路径(VAPs)、适应性监管体系等创新方案,建议通过模拟医疗从业者资质认证模式实现AI系统分级授权。文章系统分析了自主AI代理在医疗流程自主管理、多模块协同决策等方面的技术突破,以及由此带来的责任认定、动态监管等新挑战。
医疗保健自主AI代理医疗器械监管患者安全技术创新监管体系进化渐进式解决方案数字健康中心医疗服务质量
医疗保健中的自主AI代理:德累斯顿研究人员提出确保医学AI安全实施的监管方案

人工智能在医疗保健领域的应用正突破传统范畴。德累斯顿工业大学埃尔泽·克罗内尔-弗雷斯尼乌斯数字健康中心(EKFZ)的研究人员指出,自主AI代理展现出的临床流程自主管理能力,与欧美现行医疗器械监管框架存在显著脱节。该团队在《自然医学》发表的研究提出适应性监管路径,旨在平衡技术创新与患者安全。

从辅助系统到自主代理的跨越

近年来大语言模型(LLM)和生成式AI(GenAI)在临床场景加速应用,部分技术已被认定为医疗器械。当前监管体系适用于功能静态、任务明确的设备,但新一代自主AI代理展现出持续演进的特征——其通过LLM协调影像分析、病历记录、临床指引等模块,可自主执行诊疗工作流并处理异常状况。EKFZ临床人工智能教授Jakob N. Kather强调:"AI代理正在重塑医疗决策范式,这要求我们重新定义安全边界与责任归属。"

监管体系的动态进化需求

现行政策对上市后产品采取固定监管标准,而自主AI代理具有持续学习、任务扩展的动态特性。研究团队建议采用渐进式解决方案:短期内可扩大"监管酌处权"适用范围,对符合医疗器械定义但存在监管冲突的技术暂不强制执行特定条款;中期应建立自愿替代路径(VAPs)和实时性能监测体系,通过临床数据动态迭代监管要求;长期可借鉴医疗从业者认证模式,建立AI系统"能力进阶"机制——在特定任务中展现稳定效能后方可授予自主权。

研究团队特别指出,尽管"监管沙盒"为技术创新提供试验空间,但其资源密集型特征难以规模化推广。论文通讯作者Stephen Gilbert教授强调:"唯有监管框架的系统性重构,才能实现AI代理的普惠价值。这需要监管机构、医疗机构与开发团队的协同创新。"

关于埃尔泽·克罗内尔-弗雷斯尼乌斯数字健康中心

该中心成立于2019年,获得4000万欧元资助,聚焦患者端数字医疗技术创新,致力于通过数字化手段提升医疗服务质量。

【全文结束】

大健康
大健康