利用频率偏置构建更鲁棒的模型
计算机视觉与模式识别
2023-07-31 v2 人工智能
摘要
尽管深度神经网络在各领域取得成功，其对对抗样本的脆弱性一直是广泛应用的重大障碍。近期一些工作指出，对抗训练模型强调低频信息的重要性以实现更高鲁棒性。虽有若干尝试利用该频率特性，但均面临直接将低通滤波器用于输入图像导致判别信息不可逆丢失及对具有不同频率特征的数据集泛化性差的问题。本文提出一个名为频率偏好控制模块的可插拔模块，其自适应重构中间特征表示的低频与高频分量，以在鲁棒学习中更好地利用频率。实证研究表明，我们所提模块可轻松嵌入任意对抗训练框架，在不同架构与数据集上进一步提升模型鲁棒性。此外，实验考察了鲁棒模型的频率偏置如何影响对抗训练过程及其最终鲁棒性，揭示了有趣的见解。
引用
@article{arxiv.2307.09763,
title = {Towards Building More Robust Models with Frequency Bias},
author = {Qingwen Bu and Dong Huang and Heming Cui},
journal= {arXiv preprint arXiv:2307.09763},
year = {2023}
}
备注
Accepted by ICCV23