对抗多样化再现记忆 (ADRM)：缓解持续学习中的记忆过拟合挑战
机器学习
2024-05-21 v1 计算机视觉与模式识别
摘要
持续学习旨在在不忘记先前知识的前提下学习非平稳的数据分布。再现基于的方法常用于抗制灾难性遗忘。然而，这些方法存在一种称为“再现记忆过拟合”的问题，模型对有限记忆样本过于专化，失去有效泛化的能力。结果是，随着时间推移，记忆的有效性逐渐衰减，最终导致所学任务的灾难性遗忘。我们提出了对抗多样化再现记忆 (Adversarially Diversified Rehearsal Memory, ADRM) 以解决记忆过拟合挑战。该新方法旨在丰富记忆样本的多样性，并增强对自然和对抗性噪声干扰的抵抗力。ADRM 采用 FGSM 攻击引入对抗性修改后的记忆样本，实现两个主要目标：增强记忆多样性并促进对持续特征漂移的稳健响应。我们的贡献如下：首先，ADRM 通过采用 FGSM 对记忆缓冲区进行多样化和复杂性增加，解决了记忆过拟合问题。其次，我们表明 ADRM 缓解了记忆过拟合，显著提高了持续学习模型的鲁棒性，这对于安全关键应用至关重要。最后，我们的详细特征分析和可视化结果表明，ADRM 缓解了持续学习记忆样本中的特征漂移，显著减少了灾难性遗忘，导致更具韧性的持续学习模型。此外，我们对特征分布的深入 t-SNE 可视化以及特征相似性的量化分析，进一步丰富了对现有持续学习方法中特征表征的理解。我们的代码已公开发布于 https://github.com/hikmatkhan/ADRM。
引用
@article{arxiv.2405.11829,
title = {Adversarially Diversified Rehearsal Memory (ADRM): Mitigating Memory Overfitting Challenge in Continual Learning},
author = {Hikmat Khan and Ghulam Rasool and Nidhal Carla Bouaynaya},
journal= {arXiv preprint arXiv:2405.11829},
year = {2024}
}