为正确的理由所欺:通过教师引导的课程学习提升对抗鲁棒性
机器学习
2021-11-02 v1 密码学与安全
计算机视觉与模式识别
摘要
当前SOTA对抗鲁棒模型大多基于对抗训练(AT),仅在内层最大化或外层最小化步骤上的一些正则化项有所不同。由于内层最大化步骤本质上的重复性,它们训练耗时巨大。我们提出一种非迭代方法,在训练中贯彻以下思想:相较于自然训练模型,对抗鲁棒模型的归因图与图像中实际物体更为对齐。此外,允许用于扰动图像(改变模型决策)的像素集合应仅限于物体像素,这通过限制攻击空间降低了攻击强度。我们的方法以少许额外代价(10-20%)相较现有AT模型取得显著性能提升,并在对抗精度与自然精度上均优于所有其他方法。我们在CIFAR-10、CIFAR-100和TinyImageNet数据集上进行了充分实验,并针对多种流行强对抗攻击报告结果,以证明方法的有效性。
引用
@article{arxiv.2111.00295,
title = {Get Fooled for the Right Reason: Improving Adversarial Robustness through a Teacher-guided Curriculum Learning Approach},
author = {Anindya Sarkar and Anirban Sarkar and Sowrya Gali and Vineeth N Balasubramanian},
journal= {arXiv preprint arXiv:2111.00295},
year = {2021}
}
备注
16 pages, 9 figures, Accepted at NeurIPS 2021, Code at https://github.com/sowgali/Get-Fooled-for-the-Right-Reason