利用 AI 加强网络安全防御：AI 在打击网络犯罪中的作用与影响
目录
日新月异的 AI 网络安全形势
利用 AI 网络安全技术应对持续存在的数字漏洞
近年来，网络漏洞显著增加，而人工智能的快速发展在这种指数级的增长中发挥了关键作用。AI 使网络犯罪分子和黑客能够更有效地利用漏洞、规避检测技术、实施更复杂的攻击，并扩大其行动规模。
AI 网络攻击的兴起：黑客如何利用 AI 来突破安全防线
图 1 显示了 AI 增强网络攻击的主要方式，包括：
AI 赋能的网络钓鱼攻击
机器学习赋能的恶意软件和勒索软件
AI 在社交工程中的应用
Fig. 1: Examples of attacks that are now being bolstered by AI
AI 赋能的网络钓鱼攻击
网络钓鱼攻击是一种网络攻击类型，网络犯罪分子在实施此攻击时会通过伪装成可信来源来诱骗个人用户泄露敏感信息。
深度伪造和先进的 AI 驱动的身份冒充等 AI 赋能的技术，让网络钓鱼攻击变得更加逼真且高度个性化，因而更加难以识别。例如，虽然假冒他人的电话诈骗早在数十年前就已经出现，但在 AI 的加持下，攻击者可以在通话中加入与受害者关系密切的人员的个人信息。
在 AI 网络钓鱼攻击中，网络犯罪分子会利用各种 AI 学习模型（如行为分析、语音克隆和自然语言处理 (NLP) 模型）来创建高度逼真、由 AI 生成的虚拟身份。利用这些技术，攻击者可以惟妙惟肖地模仿受害者朋友和同事的外貌、声音，甚至写作风格和说话语气，从而更容易地骗过受害者并增加攻击成功率。
深度伪造是 AI 驱动的网络钓鱼攻击的最新工具
AI 在网络犯罪中一个愈发普遍的应用便是网络犯罪分子使用机器学习来制作深度伪造的媒体内容，例如看起来真实可信，实则完全伪造的视频、图像和音频。深度伪造技术在网络犯罪中的兴起是一个日益严峻的威胁，一旦不幸成为深度伪造网络钓鱼骗局的受害者，其后果可能是灾难性的。
2024 年初，香港一家公司的一名员工参加了一个视频会议，在会议中诈骗者利用深度伪造技术伪造了其同事的虚拟形象，成功诱骗其将 2500 万美元的公司资金转账给诈骗者。
爬虫程序操纵者利用 AI 秒换攻击路径
爬虫程序管理已成为一场猫捉老鼠的游戏：安全公司推出更强大的检测技术，爬虫程序操纵者随后学会了如何规避这些检测技术，接下来安全公司再开发新的检测技术；这一模式周而复始，不断重演。
AI 让爬虫程序操作者能够以更复杂的方式驱动其行为，从而缩短规避新检测技术所需的时间、使用适应性更强的攻击方法以及更逼真地模仿人类的交互行为。表明爬虫程序操纵者正在利用 AI 的种种迹象包括：
攻击手段的快速发展：攻击方法快速转变以应对检测技术。
行为的多变性增强：AI 驱动的爬虫程序可以使用自动模糊测试等技术来探索各种排列组合，以试图绕过防御系统。
模仿人类交互行为：这涉及对真实用户行为的高级模仿，包括鼠标点击、键盘按键或鼠标移动中的随机模式。
机器学习赋能的恶意软件和勒索软件
AI 驱动的网络威胁存在多种形式。近年来，AI 恶意软件的快速发展让黑客能够开发出隐蔽性更强、适应性更强的恶意软件，从而显著提升了恶意软件和勒索软件攻击的有效性。
勒索软件是一种恶意软件，它会对受害者的数据进行加密并以解除加密相要挟来索要赎金。随着 AI 技术的融入，它变得更加强大和棘手。现在，网络犯罪分子可以在勒索软件攻击中使用 AI 来规避检测技术，并执行速度更快、更复杂的攻击。
借助 AI 赋能的自适应恶意软件，黑客能够更有效地绕过安全措施。通过分析网络流量，此类机器学习恶意软件可以学习如何模仿合法用户的行为，并且可以改变其自身的行为、通信方式和代码来躲避传统安全系统的检测。
此外，机器学习算法使攻击者能够更精准地识别安全系统中的漏洞、攻击最有价值的数据，并根据系统的具体特征定制加密方法，提升对被盗信息进行解密的难度。一些勒索软件攻击者还会使用 AI 来自动完成加密等部分任务，以加快攻击进程，使受害者没有足够的时间进行应对。
AI 在社交工程中的应用
在社交工程攻击中，攻击者依赖心理操纵和欺骗手段来诱使其攻击目标交出敏感信息或资产。攻击者可以利用 AI 发起社交工程攻击，制造出更加个性化的骗局，让个人更加难以识别。
AI 分析使网络犯罪分子能够实施高度个性化的社交工程骗局。通过从目标的数字足迹中挖掘个人详细信息、近期事件和情绪触发点，并将其植入网络钓鱼电子邮件和其他通信内容中，攻击者可以炮制出感觉异常真实的通信内容，从而更轻松地骗取目标的信任。
此外，攻击者越来越多地在网络犯罪中使用对话式 AI 来扩大其攻击规模，这使得 AI 驱动的聊天机器人骗局等网络威胁变得更加普遍。现在，AI 聊天机器人模型能够以惊人的准确度模仿人类对话，它们不仅可以编造出极具说服力的论点，还会学习利用情感线索。通过将 AI 聊天机器人用于网络攻击，攻击者能够实现交互过程的自动化，无需亲自参与直接对话，从而让他们有更多时间去攻击更多的受害者。
AI 在威胁检测和安全防护中的作用
诚然，AI 确实有加剧网络威胁的可能，但它在提升网络安全方面的潜力同样不容小觑。威胁搜寻 AI 技术融合了机器学习的强大功能，因此与传统的安全措施相比，它可以帮助企业更准确、更快地发现并应对各种威胁。
在增强安全系统方面，AI 的一些应用场景包括：
利用 AI 技术提升威胁检测能力
在机器学习算法的赋能下，AI 驱动的网络安全工具可以实时分析海量数据，学习其中的模式，并识别出可能表明存在潜在威胁的异常情况。得益于这种分析的高效性，网络安全专业人士能够比以往更快、更准确地检测出安全事件。
先进的机器学习 AI 工具还可以帮助安全专业人士识别众所周知且难以发现的威胁，例如横向移动。横向移动是攻击者采用的在网络中隐蔽移动的手段，用于识别高价值目标并扩大其访问范围。
例如，Akamai 使用图神经网络 (GNN) 来检测网络内潜在的横向移动。GNN 首先会学习网络资产之间的典型交互，然后使用这些知识来预测未来的交互。如果某个资产的行为显著偏离既定模式，则它会被标记为存在横向移动的潜在迹象。
图 2 说明了 Akamai 如何在其 Akamai Guardicore Segmentation 和 Akamai Hunt 网络安全服务中采用 AI 技术。
Fig. 2: The threat detection process used by the Akamai security research team
对威胁进行优先级划分，自动实施应对措施
AI 在增强安全运营方面的另一项核心作用是实现自动化的事件响应。与人工干预相比，它极大地缩短了响应时间。通过加快威胁应对速度，AI 自动化事件响应可在问题升级前帮助企业减轻潜在的损失。
其工作方式如下：在检测到威胁后，基于 AI 的系统会自动执行预定义的操作来消除风险，例如隔离受影响的资产或者阻止恶意流量进入网络。此外，机器学习 AI 算法还会评估并确定威胁的严重程度，并根据其紧急程度来确定应对措施的优先级。
由于 AI 系统拥有极快的速度并且能够同时处理多种威胁，因此它们为企业提供了一种更高效、更有效的风险管理方法，使他们能够实时、大规模地应对新出现的各种威胁。
增强预测性威胁情报
网络安全专业人士可以利用人工智能技术，根据历史趋势预测来预测和防范潜在威胁，从而提升其威胁检测能力的准确性。
机器学习 AI 模型可以分析来自各种来源的大型数据集。通过分析来自历史事件报告、安全日志、网络流量模式等渠道的信息，网络安全团队能够开始识别其中的趋势和模式，从而加深对常见网络威胁的了解。
接下来，AI 系统可以使用这些趋势来预测未来威胁何时以及如何发生，并且能够在威胁形成之前建立起自动化防御措施，做到防患于未然。
例如，Akamai Bot Manager 使用 AI 框架，能够在网络边缘实时、大规模地监控爬虫程序流量并检测威胁（图 3）。
Fig. 3: Bot traffic log from the Akamai Bot Manager solution
了解局限性：AI 在哪些情况下不适用
虽然 AI 能够提供强大的网络安全改进措施，但也必须牢记其局限性。
AI 系统完全从提供给它们的数据中进行学习，因此它们缺少人类那种把握大局或考虑全局的能力。出于此原因，当面对更细微而复杂情境时，AI 系统在决策方面会显得力不从心。如果用于训练某个 AI 系统的数据本身就不完整或存在偏见，那么该 AI 系统会在其决策中体现出这样的偏见或局限性。
正是由于 AI 系统缺乏对细微差别的洞察力，它才会偶尔将合法流量错误地标记为潜在威胁，从而导致误报的产生。误报可能会阻止合法用户完成交易，导致企业错失商机并且客户满意度下降。
最后，由于 AI 依赖海量数据进行学习，因此数据隐私和安全面临风险。如果未采取适当的安全措施，那么一旦发生数据泄露，公司便会面临攻击者未经授权访问潜在的大量敏感数据的风险。
可以预见，AI 在各行各业中的应用只会持续增长。在 McKinsey 近期对 AI 现状进行的一项调查中，71% 的受访者称其企业会经常在至少一项业务功能中采用生成式 AI 技术，比去年 65% 的比例有所增加，而比 2023 年 33% 的比例有大幅提升。
随着 AI 系统变得越来越先进，人们预测它们会在未来几年内在网络防御系统中发挥更重要的作用。AI 有望在威胁检测和抵御方面带来更多进步，让网络安全团队能够持续扩大其工作规模，并以更快的速度应对威胁。
拥抱 AI，构筑更安全的数字世界
AI 在网络攻击和网络安全方面发挥着越来越关键的作用。为了应对持续演变、日趋复杂的威胁形势，Akamai 率先以战略性且透明的方式部署 AI，以强化安全防护。
Akamai 由 AI 赋能的网络安全工具能够执行各种关键任务。Akamai Hunt 等采用 AI 技术的创新型解决方案使企业能够比以往更快、更准确地发现并应对各种威胁。Akamai Guardicore Platform 将先进的 AI 技术和 Akamai 的专业知识相结合，能够帮助客户实现 Zero Trust，降低勒索软件风险，并满足合规要求。
选择能够以负责任且有效的方式应用 AI 的网络安全解决方案，增强贵企业的安全态势。
