在加拿大各地，医生和护士们正悄然使用ChatGPT、Claude、Copilot和Gemini等公共人工智能（AI）工具来撰写临床记录、翻译出院摘要或汇总患者数据。尽管这些服务提供了速度和便利性，但当敏感的健康信息不再受医院控制时，它们也带来了看不见的网络风险。
新兴证据表明，这种行为正变得越来越普遍。最近《ICT & Health Global》的一篇文章引用了《BMJ Health & Care Informatics》的一项研究，显示大约五分之一的英国全科医生报告使用ChatGPT等生成式AI工具来帮助起草临床通信或记录。
虽然加拿大特定的数据仍然有限，但轶事报告显示，类似的非正式使用可能开始在全国各地的医院和诊所中出现。
这种现象被称为"影子AI"，指的是在没有正式机构批准或监督的情况下使用AI系统。
在医疗保健环境中，它指的是善意的临床医生将患者详细信息输入到在外国服务器上处理信息的公共聊天机器人。一旦这些数据离开安全网络，就无法保证它们会去哪里、存储多长时间，或者是否会被重新用于训练商业模型。
日益扩大的盲点
影子AI已迅速成为数字健康领域最被忽视的威胁之一。2024年IBM安全报告显示，数据泄露的全球平均成本已攀升至近490万美元，创下历史新高。虽然大多数注意力都集中在勒索软件或网络钓鱼上，但专家警告称，内部人员和意外泄露现在占总泄露事件的比例越来越大。
在加拿大，加拿大保险局和加拿大网络安全中心都强调了内部数据暴露的上升趋势，即员工无意中泄露受保护的信息。当这些员工使用未经批准的AI系统时，人为错误和系统漏洞之间的界限变得模糊。
在医疗环境中是否有这些有记录的案例？虽然专家指出内部数据暴露是医疗保健组织中日益增长的风险，但公开记录的、根本原因是影子AI使用的案例仍然很少。然而，风险是真实的。
与恶意攻击不同，这些泄露是悄然发生的，当患者数据被简单地复制粘贴到生成式AI中时。没有警报响起，没有防火墙被触发，没有人意识到机密数据已经跨越了国界。这就是影子AI如何绕过组织网络中内置的每一项安全措施。
为什么匿名化并不足够
即使删除了姓名和医院编号，健康信息也很少真正匿名。结合临床细节、时间戳和地理线索通常可以允许重新识别。《自然通讯》的一项研究表明，即使大型"去标识化"数据集在与其他公共信息交叉参考时，也能以惊人的准确性匹配到个人。
公共AI模型进一步加剧了这个问题。ChatGPT或Claude等工具通过基于云的系统处理输入，这些系统可能会临时存储或缓存数据。
虽然提供商声称会删除敏感内容，但每家都有自己的数据保留政策，很少披露这些服务器的物理位置。对于受《个人信息保护与电子文件法》（PIPEDA）和省级隐私法约束的加拿大医院来说，这创造了一个法律灰色地带。
隐藏在日常中的例子
考虑一名护士使用由生成式AI驱动的在线翻译器来帮助说另一种语言的患者。翻译看起来即时且准确——然而，输入文本（可能包括患者的诊断或检测结果）被发送到加拿大以外的服务器。
另一个例子涉及医生使用AI工具起草患者随访信或汇总临床笔记，在此过程中无意中暴露了机密信息。
最近的加拿大保险业务报告警告称，影子AI可能成为保险公司的"下一个主要盲点"。
由于这种做法是内部的且自愿的，大多数组织没有衡量其范围的指标。不记录AI使用情况的医院无法审计哪些数据已离开其系统或由谁发送。
弥合政策与实践之间的差距
加拿大的医疗保健隐私框架是在生成式AI出现之前很久设计的。PIPEDA和省级健康信息法案等法律规范了数据的收集和存储方式，但很少提及机器学习模型或大规模文本生成。
因此，医院被迫在一个快速发展的技术环境中解释现有规则。网络安全专家认为，医疗机构需要三层应对措施：
1. 网络安全审计中的AI使用披露：常规安全评估应包括所有正在使用的AI工具清单，无论是否获得批准。将生成式AI使用与组织处理"自带设备"风险的方式相同对待。
2. 认证的"健康安全AI"网关：医院可以提供经过批准、符合隐私规定的AI系统，将所有处理保持在加拿大数据中心内。集中访问允许监督，同时不会阻碍创新。
3. 员工数据处理素养：培训应明确说明当数据输入公共模型时会发生什么，以及即使小片段也可能损害隐私。意识仍然是最强的防线。
这些步骤不会消除所有风险，但它们开始使一线实践与监管意图保持一致，保护患者和专业人员。
前方的道路
加拿大医疗保健部门已经面临人员短缺、网络攻击和日益复杂的数字环境的压力。生成式AI通过自动化文档和翻译提供了令人欢迎的缓解，但其不受控制的使用可能会削弱公众对医疗数据保护的信任。
政策制定者现在面临一个选择：要么主动规范医疗机构内的AI使用，要么等待第一个重大隐私丑闻迫使改革。
解决方案不是禁止这些工具，而是安全地整合它们。建立"AI安全"数据处理的国家标准，类似于食品安全或感染控制协议，将有助于确保创新不会以牺牲患者保密性为代价。
影子AI不是未来概念；它已经嵌入日常临床常规中。在加拿大的医疗保健系统艰难地了解到最危险的网络威胁可能来自内部之前，解决它需要技术、政策和培训方面的协调努力。
【全文结束】
