2023 年，网络安全研究人员开发了一种名为“黑曼巴”的人工智能生成的多态恶意软件的概念验证（PoC）。黑曼巴利用大型语言模型（LLM）返回恶意代码，能够窃取用户设备的按键操作。然而，黑曼巴可以不断进化以逃避网络安全工具的检测，这引发了人们对其可能造成大规模和长期破坏的担忧。
黑曼巴展示了网络犯罪分子如何潜在地将人工智能武器化，以进行复杂、难以察觉和大规模的网络攻击。甚至领导人工智能开发的组织也承认其解决方案可能被滥用。例如，微软已经承认，一些威胁行为者正在使用其生成式人工智能技术及其合作伙伴 OpenAI 的技术来组织攻击性的网络操作。
不过，关于网络安全中的人工智能也有好消息：虽然坏人可以使用人工智能来攻击好人，但好人也可以用它来保护自己的系统和数据免受网络攻击。如果使用得当，人工智能可以成为当今网络安全工作中最有效的武器。这是如何实现的呢？
网络安全中人工智能的风险
2024 年 1 月，美国国家标准与技术研究院（NIST）发布了一份文件，强调了人工智能如何被操纵来创建对抗性人工智能并执行一系列网络攻击。
网络安全中人工智能的一些常见风险包括规避攻击，攻击者试图改变输入以使人工智能系统产生不良响应；隐私攻击，导致敏感信息暴露于违规；以及中毒攻击，攻击者将损坏的数据引入人工智能模型的训练数据集，以迫使产生错误或不良结果。
正如在黑曼巴中看到的，恶意软件是人工智能带来的另一个重大威胁。像黑曼巴的研究人员一样，其他研究人员也发现了网络对手如何利用人工智能用恶意软件或勒索软件感染系统。
例如，2018 年，IBM 研究开发了一个名为 DeepLocker 的人工智能驱动的恶意软件的概念验证，它将其恶意有效载荷隐藏在无害文件中，并逃避传统安全工具的检测。它还利用人工智能智能地识别其目标，并根据特定触发因素自动激活自己，以增加成功感染的概率。
最近，在 2023 年 1 月，CyberArk 的安全研究人员通过向聊天机器人 ChatGPT 提供几个简单的提示，成功创建了一种新的多态恶意软件。然而，这些发展提出了一个令人担忧的问题：使用人工智能创建恶意软件真的这么容易吗？
聪明的威胁行为者还使用人工智能技术来增强他们的网络钓鱼能力，并提高网络钓鱼攻击的速度、准确性和频率。2023 年的一份报告发现，从 2022 年第四季度到 2023 年第四季度，使用 ChatGPT 导致网络钓鱼诈骗激增 1265%。其中一个原因是它有效地模拟了人类的语言，使得受害者难以识别骗局，也便于诈骗者创造更多的受害者并获得大量的报酬。
犯罪分子还使用人工智能来创建深度伪造，经常传播错误信息。他们还利用支持人工智能的聊天机器人和深度伪造来进行浪漫骗局和家庭紧急骗局，欺骗毫无戒心的受害者交出他们的钱。
用于网络防御的人工智能
尽管与人工智能相关存在风险，但并非全是厄运和阴霾。正如网络犯罪分子利用人工智能为自己谋利一样，防御者也可以利用它来增强安全性。
根据 IBM 2024 年的数据泄露成本报告，使用人工智能进行网络安全的组织能够识别和遏制违规行为的速度快近 100 天。与不使用人工智能技术的组织相比，它们平均可以节省 188 万美元的违规成本。简而言之，您可以通过人工智能尽早阻止违规行为，并降低安全操作的复杂性和成本。
人工智能解决方案可以实时预测、检测甚至消除网络威胁。这些相同的解决方案具有预测性威胁建模以及自动化事件处理和响应能力。用户可以主动寻找新的威胁，并在它们造成重大损害之前迅速缓解安全事件。
凭借其生成人工智能能力和工作流程自动化，用户还可以识别横向移动、击败高级持续威胁（APTs），并识别增加攻击风险的系统漏洞。人工智能工具对于自动执行安全任务（如渗透测试）和为诸如《通用数据保护条例》（GDPR）等法规生成合规报告也很有帮助。
在网络安全中使用人工智能所涉及的挑战
我完全支持在网络安全解决方案中实施人工智能。然而，我也敦促用户意识到他们可能面临的挑战。
第一个原因是因为偏见。由于人工智能模型中的内置偏见，您的网络安全工具中的人工智能可能会标记不存在的威胁，也称为“误报”，从而将注意力从真正的威胁上转移开。偏见也可能导致它无法检测到一些真正的威胁，增加攻击的风险并危及您的安全态势。
网络安全中人工智能的另一个问题是“黑箱”或不透明的人工智能系统。人类几乎不可能理解这些系统如何做出决策，这引发了对其结果可信度的怀疑。
第三，人工智能系统是在大量数据上训练的。其中一些信息可能是敏感的，引发了对数据隐私的担忧，并增加了数据泄露的风险。
我不建议在网络安全方面过度依赖人工智能技术。正如我们所看到的，人工智能系统并非无懈可击，因此过度依赖它们会产生一种错误的安全感，使您更容易而不是更不容易受到网络攻击。
网络安全中人工智能成功的关键
网络安全中的人工智能被用于伤害和利用是一个不幸的事实。然而，好的一面是组织也可以利用人工智能来增强威胁检测、加速事件响应、自动化安全任务和简化合规。
在这把双刃剑的网络安全中的人工智能中，关键是在理解人工智能的弱点和利用其潜力之间取得平衡，以实施更有效和预测性的安全性。通过了解网络安全中人工智能的优缺点，您可以知道在正确的时间在正确的领域避免什么和实施什么。
更重要的是，在处理人工智能系统时应保持人工监督。为网络安全团队提供有效理解和管理人工智能技术所需的知识和技能，弥合劳动力中的技能差距。促进人工智能系统与人类分析师之间的协作，以增强决策过程并解决道德问题。
