在数字生态系统中，身份认证已成为最薄弱的环节，尤其是在涉及远程服务（如远程医疗或电子商务）的情况下。随着人工智能工具变得愈发普及，网络安全专家警告称，AI如今正被“武器化”，用于进行身份盗窃、生物特征伪造和医疗欺诈，而这些威胁可能会带来危及生命的后果。
在《Khaleej Times》于迪拜举办的“FutureSec Summit 2025”上，来自医疗、零售和政府领域的专家们指出，深度伪造、身份伪造以及数字基础设施中的漏洞正在使企业和个人面临严峻风险。
Cigna Healthcare中东和非洲地区首席信息安全官詹姆斯·怀尔斯（James Wiles）表示：“在数字身份的世界中，这不仅仅是一个行政问题，它还具有生死攸关的后果。如果因为身份盗用或错误而导致患者身份识别错误，可能会导致用药错误或误诊。”
怀尔斯详细介绍了网络犯罪分子如何利用伪造身份，在中东、非洲和美洲等地提交虚假保险索赔的情况。他提到：“我们已经看到使用被盗身份提交多起虚假索赔的案例，金额高达10万美元，直到欺诈被发现为止。而这笔钱几乎无法追回。而随着AI现在能够生成视频和语音深度伪造内容，这一问题正在加剧，尤其是在远程医疗领域。”
“FutureSec Summit 2025”由《Khaleej Times》主办，汇集了来自政府、医疗、零售和技术领域的领军人物，主题为“创新、韧性与道德警觉”。这场为期一天的活动探讨了在快速数字化的世界中，AI与网络安全如何交织，并重点关注身份认证作为现代数字生态系统中最脆弱的接入点。
薄弱环节
讨论中强调，身份认证是数字生态系统中最薄弱的一环，特别是在涉及远程服务（如远程医疗或电子商务）的情况下。尽管大型机构可能拥有足够的资源来采用高级防御措施，但较小的实体，例如诊所或药店，仍然容易受到攻击。
怀尔斯补充道：“我们的系统再先进，也只是和生态系统中最薄弱的一环一样强大。如果一家诊所无法通过弱化的视频认证正确验证患者身份，攻击者就会利用这一点。”
为了应对这一挑战，他表示，AI和机器学习不仅被用来攻击，也被用来防御。“我们正在使用AI追踪异常情况，例如IP变化、VPN访问、行为模式，甚至是打字风格。但将这些工具应用于从保险公司到诊所的整个链条才是真正的挑战。”
Chalhoub集团信息安全总监迪·杜（Dee Deu）则指出，问题的关键不仅在于财务风险，还在于消费者信任，尤其是基于身份的违规行为对零售行业的影响越来越大。
她表示：“客户就是我们的品牌。一旦发生数据泄露或身份泄露，对信任的损害将是巨大的。我们正在见证身份访问处理方式的变化，以及它如何影响与消费者的每个接触点。”
Chalhoub集团是一家在七个国家运营的奢侈品零售商，已开展内部活动以教育员工了解深度伪造的能力和威胁。
迪·杜说：“我们通过深度伪造模拟训练员工并测试自身的防御能力。但除了技术之外，基础仍然至关重要。如果你没有做好基本的网络安全控制，AI只会放大问题。”
她还强调了企业现在所承担的双重责任，即既要利用AI提高运营效率，又要确保所采用的AI本身是安全且无偏见的。
“我们必须像保护外部威胁一样保护我们采用的AI。这不仅仅是保护系统的问题，更是教育内外部人员的问题，让他们能够识别不断演变的风险并作出应对。”
网络无国界
代表公共部门的阿联酋某政府实体技术和网络安全负责人雅各布·马修（Jacob Mathew）表示，阿联酋在监管方面“走在前列”，并提到了联邦法律和已有的数据保护框架。
他说：“我们有《联邦法令第45号》关于个人数据保护和《第34号法令》关于网络犯罪的法律，它们为我们提供了坚实的基础。但深度伪造和AI驱动的身份盗用不受地理限制。这些是全球性威胁，我们需要国际合作，甚至可能通过联合国建立统一的标准和响应机制。”
马修赞扬了欧盟的《AI法案》，该法案要求对AI内容进行风险分类和标记。但他强调，意识和教育同样重要。
(全文结束)
