利用异常特征向量检测、分类并预警离群对抗样本
机器学习
2021-07-02 v1 密码学与安全
摘要
我们提出DeClaW，一个用于检测、分类并预警呈现给分类神经网络的对抗输入的系统。与当前给定输入后检测其是否为干净或对抗样本的最优方法不同，我们的目标还在于识别对抗攻击的类型（例如PGD、Carlini-Wagner或干净）。为此，我们从一组潜在特征中提取统计轮廓，称之为异常特征向量（anomaly feature vectors, AFVs）。初步结果表明，AFVs有助于区分多种类型的对抗攻击（例如PGD与Carlini-Wagner），在CIFAR-10数据集上准确率接近93%。这些结果开启了使用基于AFV的方法不仅探索对抗攻击检测，还进行分类攻击类型识别并进而设计针对特定攻击的缓解策略的大门。
引用
@article{arxiv.2107.00561,
title = {Using Anomaly Feature Vectors for Detecting, Classifying and Warning of Outlier Adversarial Examples},
author = {Nelson Manohar-Alers and Ryan Feng and Sahib Singh and Jiguo Song and Atul Prakash},
journal= {arXiv preprint arXiv:2107.00561},
year = {2021}
}
备注
ICML 2021 workshop on A Blessing in Disguise: The Prospects and Perils of Adversarial Machine Learning