面向对抗鲁棒的持续学习
机器学习
2023-04-03 v1 人工智能
摘要
近期研究表明,通过持续学习训练的模型可达到与标准监督学习相当的性能,且持续学习模型的学习灵活性使其能在现实世界中广泛应用。然而,深度学习模型已被证明易受对抗攻击。尽管在标准监督学习背景下关于模型鲁棒性的研究很多,但保护持续学习免受对抗攻击尚未被探讨。为填补这一研究空白,我们首次研究持续学习中的对抗鲁棒性,并提出一种称为任务感知边界增强(Task-Aware Boundary Augmentation, TABA)的新方法来提升持续学习模型的鲁棒性。在 CIFAR-10 与 CIFAR-100 上的大量实验表明,对抗训练与 TABA 在防御对抗攻击方面有效。
引用
@article{arxiv.2303.17764,
title = {Towards Adversarially Robust Continual Learning},
author = {Tao Bai and Chen Chen and Lingjuan Lyu and Jun Zhao and Bihan Wen},
journal= {arXiv preprint arXiv:2303.17764},
year = {2023}
}
备注
ICASSP 2023