奇数之奇：一种检测对抗样本的统计检验
机器学习
2019-05-10 v2 机器学习
摘要
我们研究在何种条件下存在检验统计量，能够可靠地检测在白盒攻击中被对抗性操纵的样本。这些统计量可通过随机损坏输入轻松计算与校准。它们利用了对抗攻击引入的某些异常，特别是当攻击遵循在 p-范数约束下最优选择扰动的范式时。访问 log-odds 是防御模型的唯一要求。我们从经验上论证了我们的方法，同时也给出了所建议检验统计量保证有效可检测的条件。在我们的实验中，我们表明甚至有可能以高精度纠正对抗攻击的测试时预测。
引用
@article{arxiv.1902.04818,
title = {The Odds are Odd: A Statistical Test for Detecting Adversarial Examples},
author = {Kevin Roth and Yannic Kilcher and Thomas Hofmann},
journal= {arXiv preprint arXiv:1902.04818},
year = {2019}
}