通用金字塔对抗训练以提升ViT性能
计算机视觉与模式识别
2023-12-29 v1 机器学习
摘要
最近，金字塔对抗训练（Herrmann等人，2022）被证明对提高视觉Transformer的干净准确率和分布偏移鲁棒性非常有效。然而，由于对抗训练的迭代性质，该技术比标准训练昂贵多达7倍。为了提高效率，我们提出通用金字塔对抗训练，其中学习一个在整个数据集上共享的单一金字塔对抗模式，而不是逐样本模式。通过我们提出的技术，我们将金字塔对抗训练的计算成本降低高达70%，同时保留了其在干净性能和分布偏移鲁棒性上的大部分优势。此外，据我们所知，我们也是首次发现可以利用通用对抗训练来提高干净模型性能。
引用
@article{arxiv.2312.16339,
title = {Universal Pyramid Adversarial Training for Improved ViT Performance},
author = {Ping-yeh Chiang and Yipin Zhou and Omid Poursaeed and Satya Narayan Shukla and Ashish Shah and Tom Goldstein and Ser-Nam Lim},
journal= {arXiv preprint arXiv:2312.16339},
year = {2023}
}