基于局部平坦正则化的对抗防御
计算机视觉与模式识别
2020-12-18 v4 密码学与安全
机器学习
摘要
对抗防御是一个热门且重要的研究领域。由于其内在机制，防御攻击最直接有效的途径之一是分析输入空间中损失曲面的性质。本文中，我们将损失曲面的局部平坦度定义为以良性样本为中心的邻域内，关于输入的所选梯度范数的最大值，并讨论局部平坦度与对抗脆弱性之间的关系。基于该分析，我们提出一种通过正则化局部平坦度的新防御方法，称为局部平坦正则化（LFR）。我们还从其他角度（如人类视觉机制）证明了所提方法的有效性，并从理论上分析了 LFR 与其他相关方法的关系。实验用于验证我们的理论并展示所提方法的优越性。
引用
@article{arxiv.1910.12165,
title = {Adversarial Defense via Local Flatness Regularization},
author = {Jia Xu and Yiming Li and Yong Jiang and Shu-Tao Xia},
journal= {arXiv preprint arXiv:1910.12165},
year = {2020}
}
备注
Accepted by the ICIP 2020. The first two authors contributed equally to this work