MGSER-SAM：结合锐度感知优化的记忆引导软经验回放以增强持续学习
机器学习
2024-05-16 v1
摘要
深度神经网络在持续学习领域遭受灾难性遗忘问题。为应对这一挑战，我们提出MGSER-SAM，一种新颖的基于记忆回放的算法，专门设计用于增强持续学习模型的泛化能力。我们首先整合SAM优化器，一个旨在优化平坦性的组件，它无缝地融入著名的经验回放框架如ER和DER++。然后，MGSER-SAM独特地解决了协调当前任务与先前存储记忆之间权重扰动方向冲突的复杂挑战，这在SAM优化器中尚未充分探索。这通过软logits的策略性整合和记忆梯度方向的对齐有效实现，其中正则化项促进了持续学习过程中多个训练损失项的并行最小化。通过在多个基准上的严格实验分析，MGSER-SAM在所有三种持续学习场景中一致地优于现有基线。与代表性的基于记忆回放的基线ER和DER++相比，MGSER-SAM不仅分别将测试准确率提高了和，而且在每个基准上实现了最低的遗忘。
引用
@article{arxiv.2405.09492,
title = {MGSER-SAM: Memory-Guided Soft Experience Replay with Sharpness-Aware Optimization for Enhanced Continual Learning},
author = {Xingyu Li and Bo Tang},
journal= {arXiv preprint arXiv:2405.09492},
year = {2024}
}
备注
8 pages, 5 figures