提升类增量学习中对抗样本的可持续性
密码学与安全
2025-11-13 v1 人工智能
摘要
当前的对抗样本通常是为静态模型设计的。然而，随着类增量学习（CIL）的广泛应用，模型不再静态，需要使用分布和标签均不同于旧数据的新数据进行更新。因此，由于显著的领域漂移，现有的对抗样本在 CIL 更新后通常会失效。在本文中，我们提出 SAE 以增强对抗样本对 CIL 的可持续性。SAE 的核心思想是通过使对抗样本语义更类似于目标类同时区别于所有其他类，来增强其对抗领域漂移的鲁棒性。实现这一点具有挑战性，因为仅依靠初始 CIL 模型来优化对抗样本语义往往会导致过拟合。为解决这一问题，我们提出了语义校正模块。该模块基于能够产生通用语义的视觉-语言模型，鼓励对抗样本语义泛化。此外，它结合 CIL 模型纠正对抗样本语义的优化方向，引导其更接近目标类。为进一步减少对抗样本语义的波动，我们提出了过滤与增强模块，该模块首先在潜在空间中识别具有目标类语义的非目标样本，然后对其进行增强以培养更稳定的语义。大量实验表明，当类别数量增加 9 倍进行更新时，SAE 的性能比基线平均高出 31.28%。
引用
@article{arxiv.2511.09088,
title = {Improving Sustainability of Adversarial Examples in Class-Incremental Learning},
author = {Taifeng Liu and Xinjing Liu and Liangqiu Dong and Yang Liu and Yilong Yang and Zhuo Ma},
journal= {arXiv preprint arXiv:2511.09088},
year = {2025}
}
备注
This paper is accepted to AAAI 2026