探索类别增量持续学习中的跨阶段对抗迁移性
机器学习
2026-01-29 v1
摘要
类别增量持续学习通过使分类模型在获取新类别的同时保留先前学习类别的知识，来解决灾难性遗忘问题。然而，在此过程中模型面对对抗攻击的脆弱性尚未得到充分研究。在本文中，我们首次探索了针对阶段迁移攻击的脆弱性，即使用早期阶段的模型生成的对抗样本去攻击后期阶段的模型。我们的发现揭示，持续学习方法极易受到此类攻击，引发了一个严重的安全问题。我们通过阶段间的模型相似性和鲁棒性的逐步退化来解释这一现象。此外，我们发现现有的基于对抗训练的防御方法对于阶段迁移攻击效果不佳。代码可在 https://github.com/mcml-official/CSAT 获取。
引用
@article{arxiv.2508.08920,
title = {Exploring Cross-Stage Adversarial Transferability in Class-Incremental Continual Learning},
author = {Jungwoo Kim and Jong-Seok Lee},
journal= {arXiv preprint arXiv:2508.08920},
year = {2026}
}
备注
Accepted at MMSP 2025