随着通用人工智能进入临床环境，医疗健康领导者必须确保创新不会超越问责制、安全性和监管监督。
在欧洲部分地区，通用人工智能工具已在初级医疗保健中得到应用，不仅用于行政支持，还用于总结患者记录、建议诊断和塑造临床决策。在我看来，这一趋势暴露了医疗技术部署和监管方面的问责制差距日益扩大。问题不在于现有法规没有为人工智能做好准备，而在于一些人工智能系统在未达到医疗技术已要求的标准的情况下就进入了前线医疗保健领域。
通用人工智能正在进入临床护理
我日益观察到一个趋势，特别是在西班牙和欧洲一些国家，这应该引起我们所有在医疗保健、人工智能和患者安全领域工作的人的关注。
一些咨询公司和技术企业正将类似ChatGPT的系统直接部署到初级医疗环境中。这些工具不仅仅是行政辅助工具，它们被用于总结患者记录、建议诊断和支持临床决策。换句话说，它们开始影响医疗服务的提供方式。然而，许多此类部署在没有任何形式的监管批准的情况下进行。
问题的核心在于一个简单但常被忽视的原则：在医疗保健领域，重要的不是技术本身，而是其预期用途。当一个系统被设计用来影响诊断、治疗或患者管理时，它就跨越了一条界限。它不再仅仅是"创新"或"生产力软件"，而是成为了医疗器械。
而在欧洲，医疗器械受医疗器械法规(MDR)管辖。
医疗器械法规已适用于AI驱动的软件
我日益关注的是新兴的说法，即这些新的人工智能系统以某种方式超出了MDR的范围，或者该法规本身需要演变以适应它们。最近，甚至一些公共机构和至少一个南欧国家的卫生部都建议，对于AI驱动的软件可能需要新的解释。
我认为恰恰相反。
MDR正是为处理这类创新而设计的。它是一个基于风险的框架，不取决于产品是基于经典算法还是现代AI构建的。它关注的是对患者、临床医生和临床决策的影响。它已经将软件视为医疗器械，已经要求临床证据，并且已经强制执行可追溯性和上市后监督。这些不是过时的构建；它们是使医疗保健创新值得信赖的机制。
从根本上说，该法规存在有一个基本原因：问责制。
医疗健康AI需要明确的责任链
每个获得CE认证的医疗器械都有明确的责任链。有法定制造商。有质量管理体系。有技术文件记录产品如何构建、验证和预期使用。有正式的发布流程。有人签字批准。有人承担责任。
现在将此与许多目前在没有监管批准的情况下部署的AI工具进行比较。问几个简单的问题：谁是该系统的技术负责人？谁批准了其在临床使用中的发布？谁在部署后监控其性能？最终，如果出现问题，谁负责？如果法院确定患者因受到这些系统之一影响的错误诊断而受到伤害，谁站在背后？谁承担法律责任？谁，从字面上说，要为此负责？这些不是理论问题。它们触及了监管存在的核心原因。
监管不会因AI进步而消失
然而，我听到一种有些简化的说法：认为对于作为医疗器械的软件，监管本身将变得过时。认为FDA或CE认证框架将在快速发展的AI面前简单地消失。认为通用人工智能系统将完全取代受监管的医疗软件。没有什么比这更远离现实的了。
医学本质上需要临床问责制。这是一个决策必须可归因、可审计和可辩护的领域。通用人工智能工具，无论是ChatGPT、Claude还是其他，都不是为承担这一负担而构建的。它们确实强大，但它们不是负责任的医疗实体。
相反，实际情况将更加结构化，也更符合现有法规。这些通用AI系统将越来越多地嵌入或连接到经过临床验证和受监管的解决方案中。智能层可能是一般性的，但临床应用将保持特定、可控和负责。换句话说，未来不是没有监管的世界，而是通用AI被医疗级系统包裹的世界，这些系统确保安全、可追溯性和责任。
主张AI需要根本不同的监管方法在许多方面是对问题的误解。AI不会减少对监督的需求，反而会增加它。系统越强大和不透明，对验证、监控和问责的需求就越大。
未经监管的AI制造了不公平的竞争环境
我们也不应忽视公平性问题。许多公司多年来一直在MDR框架下构建产品，投入大量资金进行临床研究、质量体系和监管流程以获得CE认证。他们这样做是因为他们理解在医疗保健中，信任必须赢得。现在，他们发现自己与那些以"辅助工具"或"决策支持"为名部署类似功能的新进入者竞争，避免了同等程度的审查。这创造了一个不公平的竞争环境，遵守规则的人实际上受到惩罚，而绕过规则的人获得了速度和优势。
但除了公平性之外，还有一个更基本的风险。初级医疗是医疗保健系统的前线。这是大多数临床旅程开始的地方，是不确定性最高、决策具有连锁后果的地方。将未经监管的AI引入这一环境并非无害的实验。它有可能以难以检测且更难纠正的方式影响诊断、延误治疗或改变患者诊疗路径。这正是监管框架存在的首要原因。
MDR不是创新的障碍
我们今天面临的问题不是MDR不足。而是某些行为者愿意走捷径并绕过它，同时对监管机构施加微妙的压力，要求他们以灵活性和创新的名义重新解释它。我们在其他行业已经看到过这种模式：当监管变得不方便时，它被标记为过时；当合规减慢事情时，它被描述为进步的障碍。
但医疗保健与其他行业不同。犯错的代价不是以用户流失或收入损失来衡量的，而是以患者结果来衡量的。如果你想在医疗保健领域运营，你就接受这一责任。你接受验证需要时间，证据很重要，安全不是可选项。
AI无疑将改变医学。它将解锁新的可能性，提高效率，并帮助临床医生做出更好的决策。但这些都不能成为降低为保护患者而制定的标准的理由。
MDR不是创新的障碍。它是让创新能够安全扩展的基础。我们不需要弯曲它。我们只需要应用它。
作者简介
安赫尔·阿尔贝里奇-巴亚里（Ángel Alberich-Bayarri）是Quibim的CEO兼联合创始人，Quibim是成像生物标志物研究的全球领导者。他拥有电信工程学位和生物医学工程博士学位，在医学成像和计算机视觉领域拥有15年以上经验，撰写了100多篇文章，发明了六项专利，并获得了包括MIT创新者35岁以下在内的国际奖项。
【全文结束】