通过增加对抗强度绕过特征压缩
机器学习
2018-03-28 v1 机器学习
摘要
特征压缩（Feature Squeezing）是一种最近提出的防御方法，它通过将原始空间中对应许多不同特征向量的样本合并为单个样本来减少对手可用的搜索空间。已有研究表明，特征压缩防御可以在联合检测框架中结合使用，以实现对 SOTA 攻击的高检测率。然而，我们在 MNIST 和 CIFAR-10 数据集上证明，通过增加上述 SOTA 攻击的对抗强度，可以用视觉扭曲极小的对抗样本绕过该检测框架。这些结果建议，所提出的防御方法应针对更强的攻击配置进行验证。
引用
@article{arxiv.1803.09868,
title = {Bypassing Feature Squeezing by Increasing Adversary Strength},
author = {Yash Sharma and Pin-Yu Chen},
journal= {arXiv preprint arXiv:1803.09868},
year = {2018}
}