FAdeML：理解预处理噪声滤波对对抗机器学习的影响
机器学习
2018-11-06 v1 密码学与安全
机器学习
摘要
基于深度神经网络（DNN）的机器学习（ML）算法近年来已成为领先的 ML 范式，尤其适用于分类任务，因其具有从大规模数据集中高效学习的卓越能力。然而，若干知名攻击（如数据集投毒、对抗样本以及网络操纵（通过添加恶意节点））的发现，将焦点完全置于基于 DNN 的 ML 系统安全性不足之上。特别地，恶意行为者可以利用这些知名攻击，仅通过轻微但系统地操纵环境参数、推理数据或数据采集模块，引发随机/定向误分类，或改变预测置信度。然而，大多数先前的对抗攻击都未考虑通常与 ML 推理模块集成的预处理噪声滤波器。我们在本工作中的贡献在于表明这是一个重大疏漏，因为这些噪声滤波器可使依赖引入对抗噪声的绝大多数现有攻击失效。除此之外，我们还通过提出一种新颖的预处理噪声滤波器感知对抗 ML 攻击（称为 FAdeML）扩展了现有技术水平。为证明所提方法的有效性，我们利用为“德国交通标志识别基准（GTSRB）”数据集训练的“VGGNet”DNN 生成对抗攻击图像，该图像尽管无视觉噪声，仍能在存在预处理噪声滤波器的情况下导致分类器误分类。
引用
@article{arxiv.1811.01444,
title = {FAdeML: Understanding the Impact of Pre-Processing Noise Filtering on Adversarial Machine Learning},
author = {Faiq Khalid and Muhammmad Abdullah Hanif and Semeen Rehman and Junaid Qadir and Muhammad Shafique},
journal= {arXiv preprint arXiv:1811.01444},
year = {2018}
}
备注
Accepted in Design, Automation and Test in Europe 2019