对抗对抗性机器学习的斗争正在进行中

机器学习(ML)技术的使用正在蓬勃发展。在从图像识别到信用风险预测的各个领域中,使用机器学习模型可以实现许多直接收益,从而推动了这一发展。

对抗机器学习

但是,就像软件开发和互联网的繁荣一样,吸引了利用软件漏洞来破坏软件的黑客,机器学习也是如此。随着基于ML的安全解决方案的兴起,恶意软件作者开始采用对抗性机器学习来有效地规避它们。像软件一样,机器学习(包括深度学习模型)也容易受到黑客利用,因为黑客试图实现其恶意目标,例如从用户那里窃取数据。 “专家攻击”是利用机器学习漏洞的总称。

对抗机器学习是一种旨在通过提供特制的输入来欺骗ML模型的技术,以使AV欺骗以将恶意输入分类为良性文件并逃避检测。一场真正的网络军备竞赛正在进行中,与此同时,对抗性机器学习的发展也使基于ML的网络安全解决方案的生产者投入大量精力来预测和研究对抗性技术,因此他们可以减轻这种风险。他们之间甚至举行了开放式ML模型规避 挑战.

有很大的动力来扩大我们不仅对所使用的机器学习模型的了解,而且扩大针对它们的对抗性攻击。我们目前对对抗攻击的知识水平很薄,即使是业内资深的机器学习从业人员也是如此。在一个 调查 在大小组织范围内的28个组织中,有25个组织不知道如何保护其基于机器学习的系统。

作为将深度学习应用于网络安全的领先网络安全公司之一,深度本能继续在推进对抗性机器学习研究中发挥重要作用。实际上,该公司确定了使用范围广泛的滴管 情感表情攻击 能够常规避免机器学习模型的检测。

为了逃避NGAV核心的ML模型,Emotet的编码人员采用了一种极为简单有效的技术。由于大多数经典的基于ML的AV都会根据良性和恶意功能对文件进行分类,因此Emotet的可执行文件包含很大一部分良性代码,这些代码不是其功能的一部分,并且永远不会执行,而是用于掩盖恶意功能。恶意代码实际上是被大量良性功能“伪装”的,这些良性功能在不发出警报的情况下被扫描。

深刻的本能的深度学习博士专家分享了对抗攻击的知识,以促进 机器学习威胁矩阵,这是一个由Microsoft领导并基于广泛使用的项目 斜接AT&ACK 框架。通过提供他们在网络安全领域开发Deep Instinct深度学习产品所获得的知识,他们已将该信息应用于矩阵的开发,以便其他从业人员可以利用此知识库并缩小信息鸿沟。在这一年中,他们参与了对抗性机器学习中各种攻击媒介和方法的定义和概述。

“对抗式机器学习威胁矩阵”旨在使安全分析人员具备应对这一对抗性前沿知识的知识。就像广泛使用的MITER ATT&CK矩阵映射方法通常被黑客用来颠覆软件,而对抗性机器学习威胁矩阵可以被对手用来颠覆机器学习模型的技术。

该矩阵涵盖了三个不同的黑客目标。窃取IP(例如有关模型的数据),使其愚弄(通过使受攻击的模型对样本进行错误分类)或耗尽预测系统的资源(类似于网络安全领域中的拒绝服务攻击) )。通过使用此威胁矩阵,机器学习从业人员可以了解他们面临的风险,并且更好地预测对手可能采取的步骤。

机器学习已导致网络安全和影响我们日常生活的其他领域的突破性创新。就像经典的猫捉老鼠赛跑一样,旨在带来切实利益的新技术将始终激发黑客的兴趣,以前所未有的方式来操纵它。对抗性机器学习只是该进化过程中的最新尝试。

分享这个