少即是多：基于压缩式反对抗攻击的对抗鲁棒性特征选择
机器学习
2021-06-21 v1 人工智能
信息论
math.IT
摘要
关于对抗攻击的一个常见观察是，它们大多在倒数第二层引发错误激活以欺骗分类器。假设这些激活值对应于输入的某些特征，目标便成为选择对分类最有用的特征。因此，我们提出一种新方法，通过采用反对抗攻击来识别重要特征，该方法凸显了倒数第二层相对于输入样本扰动的的一致性。首先，我们通过实验表明存在特征子集，基于其进行分类可弥合干净准确率与鲁棒准确率之间的差距。其次，我们提出一种简单而高效的机制，通过搜索输入样本的邻域来识别这些特征。然后，我们通过观察倒数第二层激活值的一致性来选择特征。
引用
@article{arxiv.2106.10252,
title = {Less is More: Feature Selection for Adversarial Robustness with Compressive Counter-Adversarial Attacks},
author = {Emre Ozfatura and Muhammad Zaid Hameed and Kerem Ozfatura and Deniz Gunduz},
journal= {arXiv preprint arXiv:2106.10252},
year = {2021}
}