RNN的可解释性与对抗鲁棒性
机器学习
2020-10-16 v2 密码学与安全
网络与互联网体系结构
机器学习
摘要
循环神经网络（RNN）在构建网络数据的入侵检测系统（IDS）方面具有吸引人的特性。随着 ubiquitous 机器学习（ML）系统的兴起，恶意行为者迅速跟进，寻找利用ML漏洞获利的新方法。最近开发的对抗性ML技术聚焦于计算机视觉，它们对网络流量的直接适用性并不简单：网络包暴露的特征比图像少，具有顺序性，并对其特征施加若干约束。我们表明，尽管有这些完全不同的特性，仍可为RNN可靠地生成对抗样本。为理解分类器误分类的潜力，我们扩展现有可解释性技术并提出特别适用于序列数据的新技术。应用它们表明，通信流的已开始的数据包就至关重要，并可能成为攻击者的目标。特征重要性方法显示，即使相对不重要的特征也能被有效滥用以生成对抗样本。由于准确率等传统评估指标不足以量化对抗威胁，我们提出对抗鲁棒性分数（ARS）用于比较IDS，捕获对抗鲁棒性的通用概念，并表明对抗训练过程能显著且成功地减少攻击面。
引用
@article{arxiv.1912.09855,
title = {Explainability and Adversarial Robustness for RNNs},
author = {Alexander Hartl and Maximilian Bachl and Joachim Fabini and Tanja Zseby},
journal= {arXiv preprint arXiv:1912.09855},
year = {2020}
}
备注
Accepted at IEEE BigDataService 2020