欧盟AI法案（EU AI Act）于2024年8月1日生效，为人工智能（AI）系统引入了特定规则，尤其是那些被认为是高风险的系统。医疗技术（Medtech）设备、产品和服务，如诊断工具、手术机器人和个人化治疗计划，通常依赖于可能受该法案约束的AI组件，特别是当这些组件可能对健康、安全或基本权利构成风险时。
该法案认识到，复杂的诊断系统和支持人类决策的系统应可靠且准确，特别是在医疗保健领域。因此，即使AI系统作为安全组件集成到医疗设备中，该设备也将被视为高风险，并受到最高程度的审查和监管负担。
此外，该法案不仅适用于开发或提供AI系统的实体，还适用于部署AI系统的实体，如医疗专业人员和医疗机构。这些群体必须确保AI系统符合法案的要求，保持系统性能的明确记录，并监控不良影响。医疗机构必须确保其AI驱动的设备按照规定的安全协议使用，医疗专业人员必须通过人工监督验证AI生成的决策。这包括记录临床决策并在AI系统的建议不符合患者健康需求时进行干预。重要的是，该法案可能适用于不在欧盟境内但技术将在欧盟市场使用或技术输出旨在欧盟的技术的开发、拥有或使用公司。
关于法案的一般细节，可参阅我们的文章《世界首个AI法规已出台》和《如何确定您的风险类别及其意义》。以下是法案中对医疗技术公司特别重要的几个方面：
- 高风险分类：作为安全组件集成到医疗设备中的AI系统，尤其是用于诊断、监测和治疗的系统，很可能被归类为高风险。这一分类带来了严格的安全、透明度和风险管理要求。我们提供的互动工具可以帮助公司确定其AI系统是否属于高风险。任何被归类为高风险的AI系统都必须经过彻底评估，以确保其符合必要的标准，才能获得欧盟CE标志。
- 符合性评估：被归类为高风险的基于AI的医疗技术产品必须经过第三方符合性评估，以确保其符合AI法案和其他相关欧盟协调立法（如医疗器械法规（MDR）和体外诊断法规（IVDR））的要求。该法案试图对适用于医疗技术产品的各种立法采取协调和互补的方法。例如，法案允许在EU AI法案和MDR或IVDR下进行单一符合性评估。然而，实践中这可能会更加复杂，因为任何公告机构都需要在两个体系下受到监管。这是一个正在发展的领域，医疗技术公司需要密切关注。
- 透明度：医疗技术中的AI系统将受到强制性的透明度要求。当AI系统属于高风险时，必须提供明确的文档，说明AI系统如何做出决策。提供商必须确保系统的输出对医疗专业人员和患者都是可解释的。
- 风险管理：使用高风险AI系统的医疗技术公司需要建立严格的管理系统，以识别和减轻与医疗保健中使用AI相关的风险。这包括在部署后监控系统，以防止或最小化损害。
- 人工监督：用于医疗保健的高风险AI系统必须有机制允许人工监督，以确保医疗专业人员可以审计和调整临床决策，特别是那些影响患者健康的决策。
- 日志、准确性和网络安全：高风险AI系统需要自动记录系统生命周期内的事件，达到与其角色相适应的适当准确性和对错误或故障的鲁棒性，并满足网络安全要求。
- 部署义务：该法案还对AI系统的部署者（如医院和临床医生）承担责任。这包括确保AI系统按照指示使用，由受过培训的人员进行监督，并确保监控和监督。这将不可避免地影响整个AI合同链的关系，包括AI系统提供商、分销商、转售商、医疗设备提供商和医疗服务提供者。
所有使用AI系统的医疗技术公司都需要确保业务内部具有适当的AI素养。监管机构预计将制定与法案义务相关的指南，这些指南将整合和嵌入欧盟的基本权利。这些指南可能会设定治理标准，无论法案是否适用，医疗技术公司都应考虑这些标准。
该法案将分阶段实施，合规期限与风险类别相关。大多数义务将在2026年8月2日前不适用，现有技术在经历重大设计变更前将享有宽限期。有关重要日期的详细信息，请参阅我们的《欧盟AI法案实施时间表》。
(全文结束)
