通过帐篷激活函数降低开放空间风险以提升对抗鲁棒性
计算机视觉与模式识别
2019-08-08 v1 机器学习
摘要
对抗样本包含微小扰动，这些扰动对人类观察者而言可能难以察觉，却会改变即便性能最佳的深度学习模型的行为并导致错误输出。自其被发现以来，对抗样本在机器学习领域引起了显著关注：研究者试图揭示其存在的原因，并提升机器学习模型对对抗扰动的鲁棒性。当前最先进的防御方法是通过投影梯度下降（PGD）进行的计算昂贵且非常耗时的对抗训练。我们假设对抗攻击利用了经典单调激活函数的开放空间风险。本文引入具有有界开放空间风险的帐篷激活函数，并表明帐篷结构使深度学习模型对对抗攻击更具鲁棒性。我们在 MNIST 数据集上证明，带有帐篷结构的分类器针对六种白盒对抗攻击的平均准确率达到 91.8%，比当前最先进水平高出 15 个百分点以上。在 CIFAR-10 数据集上，我们的方法将针对六种白盒对抗攻击的平均准确率从 PGD 对抗训练的 41.8% 提升至 73.5%。
引用
@article{arxiv.1908.02435,
title = {Improved Adversarial Robustness by Reducing Open Space Risk via Tent Activations},
author = {Andras Rozsa and Terrance E. Boult},
journal= {arXiv preprint arXiv:1908.02435},
year = {2019}
}