医疗网络安全中的人工智能攻防战
网络安全专家本诺瓦·德夏尔丹（Benoit Desjardins）表示，在医疗网络安全领域，攻击者与防御者之间正展开一场永无止境的AI攻防战。
作为前黑客，德夏尔丹在11月18日美国医疗信息与管理系统学会（HIMSS）AI与网络安全虚拟论坛开幕式上指出，人工智能既是网络安全的盟友也是劲敌。当前网络安全专家面临日均两次数据泄露的威胁，这些事件可能导致个人健康信息外泄。他强调，一旦黑客侵入网络，通常能在五小时内快速获取数据，而机构平均需要235天才能发现 breaches（数据泄露）。
黑客主要通过恶意软件和钓鱼攻击两种方式入侵系统。传统防御手段包括网络入侵检测和基于特征码的检测技术——后者通过匹配已知威胁的数据模式进行识别，也是当前最主流的检测方式。虽然存在已知恶意网站数据库可识别大部分钓鱼攻击，但该方法难以应对变种威胁。另一种基于行为的检测技术则专注于识别恶意软件的操作特征。
德夏尔丹指出，传统方法存在四大局限：变种数量庞大、感染速率快、人工耗时长以及攻击频次与规模超出处理能力。新型AI威胁包括生成对抗网络（GAN），这种生成式人工智能模型能学习数据分布规律，制造出难以辨别的虚假图像。生成式AI还可用于社会工程学攻击，生成逼真的深度伪造视频、假语音、诈骗电话及定制化钓鱼活动。
他以2024年2月发生的典型案例说明：某工程公司员工被深度伪造视频会议欺骗，误以为与公司高管通话而转账2500万美元，全程仅有她一人参与视频会议。"这是极具创意的社会工程学攻击。"德夏尔丹评价道。
在防御层面，生成式AI能自动发现系统漏洞、简化数据处理并分析海量视觉证据，实现自动化目标检测与数字对话分析。网络安全中的判别模型采用四层架构：数据层、特征层、智能层和应用层。德夏尔丹透露，现有商用网络安全模型检测准确率已超99%，可有效识别各类入侵行为、恶意软件及钓鱼攻击，"尽管真实网络攻击中AI已取得诸多成功，但鲜少公开报道。"
人工智能在网络安全中的优势体现为简洁性、可扩展性、可复用性和高速度，但其局限包括依赖海量数据集、监督学习过程繁琐以及存在"幻觉"风险。德夏尔丹强调，AI正在快速变革网络安全领域，为防御方带来重要价值，但"医生和网络安全专家都不会被AI取代"。他特别指出："掌握AI技术的医师将超越不懂AI的同行，网络安全专家需转向学习AI软件而非人工筛查数据集，人类仍需负责分析预警信号——这本质是人机协作，关键区别在于AI可7×24小时持续工作。'它不需要像我们这样睡眠。'"
德夏尔丹现任蒙特利尔大学放射学教授、蒙特利尔大学医疗中心（CHUM）首席医疗信息官，并担任魁北克省政府IT顾问。其演讲《AI对抗AI：抵御医疗健康领域的AI驱动网络威胁》预计将在重播中提供。
【全文结束】
