抗对抗性深度神经网络及其在恶意软件检测中的应用
机器学习
2017-04-28 v4
摘要
除了在围棋领域广为人知的胜利外，深度学习在信息检索、计算机视觉和语音识别方面也有众多成功应用。在网络安全领域，越来越多的公司对深度学习的潜力感到振奋，并已开始将其用于各种安全事件，其中最流行的是恶意软件检测。这些公司断言，深度学习（DL）有助于扭转对抗恶意软件感染的战局。然而，深度神经网络（DNN）易受对抗样本攻击，这一缺陷困扰着大多数（若非全部）统计学习模型。最近的研究表明，恶意攻击者可以利用这一缺陷轻易规避基于深度学习的恶意软件检测。为解决此问题，先前的工作已开发出各种防御机制，或增强训练数据，或提高模型复杂度。然而，在深入分析 DNN 的根本缺陷后，我们发现当前防御措施的有效性有限，且更重要的是，无法为其抵御基于对抗样本的攻击的鲁棒性提供理论保证。因此，我们提出一种新的抗对抗性技术，通过随机置零样本内的特征，阻止攻击者构建有效的对抗样本。在这项工作中，我们使用一个包含 14,679 个恶意软件变种和 17,399 个良性程序的真实世界数据集评估了我们提出的技术。我们从理论上验证了该技术的鲁棒性，并通过实验证明，我们的技术在保持高分类准确率的同时，显著提升了 DNN 对对抗样本的鲁棒性。为证明我们提出方法的普遍适用性，我们还使用图像识别研究中常用的 MNIST 和 CIFAR-10 数据集进行了实验。
引用
@article{arxiv.1610.01239,
title = {Adversary Resistant Deep Neural Networks with an Application to Malware Detection},
author = {Qinglong Wang and Wenbo Guo and Kaixuan Zhang and Alexander G. Ororbia and Xinyu Xing and C. Lee Giles and Xue Liu},
journal= {arXiv preprint arXiv:1610.01239},
year = {2017}
}