通过对抗训练增强增量学习的鲁棒性
计算机视觉与模式识别
2024-12-17 v3
摘要
对抗训练是抵御对抗攻击最有效的方法之一。然而，对抗训练主要在提供所有类别数据的场景下进行研究，在知识顺序引入的增量学习背景下研究有限。在本研究中，我们探讨了对抗鲁棒类增量学习（ARCIL），它处理增量学习中的对抗鲁棒性问题。我们首先探索了一系列将增量学习与现有对抗训练方法相结合的基线，发现它们导致获取新知识与保留过去知识之间的冲突。此外，我们发现训练新知识会导致鲁棒模型一个关键特征的消失：输入空间中的平坦损失景观。为了解决这些问题，我们为 ARCIL 提出了一个新颖且鲁棒的基线，命名为 \textbf{FL}atness-preserving \textbf{A}dversarial \textbf{I}ncremental learning for \textbf{R}obustness (\textbf{FLAIR})。实验结果表明，FLAIR 显著优于其他基线。据我们所知，我们是首个全面研究 ARCIL 的基线、挑战和解决方案的工作，我们相信这代表了朝着实现现实世界鲁棒性迈出的重要一步。代码可在 \url{https://github.com/HongsinLee/FLAIR} 获取。
引用
@article{arxiv.2312.03289,
title = {Enhancing Robustness in Incremental Learning with Adversarial Training},
author = {Seungju Cho and Hongsin Lee and Changick Kim},
journal= {arXiv preprint arXiv:2312.03289},
year = {2024}
}
备注
Accepted to AAAI 2025