随着人工智能（AI）在医疗行业的应用，我们正见证一场真正的数字转型革命。2024年，AI医疗市场估值为266.9亿美元，预计到2034年将达到6138.1亿美元。这一变革不仅减少了医疗机构的运营摩擦，还显著改善了患者的治疗效果和医务人员的工作效率。
然而，这种令人兴奋的转变也伴随着代价——网络安全漏洞风险的增加。许多医疗专业人士尚未准备好应对这些风险。
AI诊断和临床决策支持工具如何成为攻击目标
在AI出现之前，传统的医疗网络安全系统主要关注患者数据的保护，例如电子健康记录（EHR）、影像文件或账单信息。然而，当AI系统不仅存储数据，还参与对患者相关决策的数据解读时，风险等级便发生了变化。以下是针对医疗系统的新兴网络威胁示例：
- 模型操控：对抗性攻击通过微小但有针对性地修改输入数据，导致模型分析错误数据，例如将恶性肿瘤误诊为良性，从而引发灾难性后果。
- 数据投毒：攻击者如果能访问用于AI模型开发的训练数据，可能会对其进行破坏，从而导致有害或不安全的医疗建议。
- 模型盗窃与逆向工程：攻击者可以通过窃取或逻辑分析获取AI模型，提取其弱点，进而构建新的恶意版本或复制现有模型。
- 虚假输入与深度伪造：通过系统注入人工患者信息、篡改病历和影像结果，导致误诊。
- 运营中断：医疗机构使用AI系统进行运营决策，例如ICU分诊。这些系统的瘫痪或损坏会造成严重的运营中断，危及患者生命并导致全院范围的延误。
为何医疗领域的风险尤为突出
医疗失误可能意味着生死攸关。因此，由于被破坏的AI工具导致的误诊不仅是财务责任问题，更是对患者安全的直接威胁。此外，识别网络攻击需要时间，但如果主治医生使用了错误的信息来治疗患者，AI工具受损可能会瞬间致命。不幸的是，由于遗留基础设施、资源有限以及复杂的供应商生态系统，确保医疗行业AI系统的安全极为困难。
医疗领导者现在必须采取的行动
医疗行业的领导者需认真考虑这一威胁并制定相应的防御策略。数据并非唯一需要重点保护的资产，AI模型、训练过程及其整个生态系统同样需要保护。
以下是关键步骤：
- 进行全面的AI风险评估
在实施任何基于AI的诊断或临床决策支持（CDS）工具之前，进行全面的安全评估，了解其功能及在攻击场景下的表现，从而制定适合每种情况的计划。
- 实施针对AI的网络安全控制
遵循专为AI系统设计的网络安全实践，包括监控对抗性攻击、验证模型输出，以及确保算法更新程序的安全。
- 保障供应链安全
要求第三方供应商提供有关其模型安全性、训练数据和更新程序的详细信息。Ponemon研究所的研究表明，59%的医疗数据泄露源于第三方供应商的漏洞。因此，医疗组织必须在合同中明确要求与AI技术相关的网络安全措施。
- 培训临床和IT人员了解AI风险
临床人员和IT员工需要接受关于AI系统特定安全弱点的全面培训，以便能够检测出可能表明潜在网络操控的AI输出异常。
- 倡导标准和合作
制定统一的AI安全标准和程序至关重要。行业还需协作共享AI系统的常见和独特漏洞，以便其他机构评估自身系统。尽管卫生部门协调委员会和HHS 405(d)计划提供了重要基础，但仍需更多措施。
医疗AI的未来取决于信任
AI是解锁革命性诊断性能、高效护理交付和整体更好患者结果的关键。然而，如果这一发展因网络安全漏洞而受阻，我们将目睹临床医生和患者对这些工具失去信任，从而阻碍新技术的采用。最糟糕的情况是患者因此遭受损失。
AI系统的安全措施必须成为AI创建和实施每个阶段不可或缺的一部分。这是医疗行业的迫切需求。医疗领导者需通过与保护其他系统相同的操作流程来保护基于AI的诊断和临床决策支持工具。
未来的医疗创新依赖于信任作为其根本基础。如果没有安全有效的AI系统来提升我们的能力，我们将无法赢得并保持这种信任。
(全文结束)
