STAR：稳定性诱导的权重扰动用于持续学习
机器学习
2025-03-04 v1 人工智能
计算机视觉与模式识别
摘要
人类能够自然地以顺序方式学习新的和变化的任务。持续学习是一类在依次观察到新数据（可能涉及新任务）后更新其所学习模型的学习算法。在持续学习中，一个关键挑战是：随着模型被更新以学习新任务，它变得容易发生灾难性遗忘，即先前学习任务的知识被丢失。缓解持续学习中遗忘的流行方法是维持一个小型的先前观察样本缓冲区，并在训练时重放这些样本。然而，这种方法受限于小型缓冲区大小，即使遗忘被减少，仍然存在。本文提出了一种新的损失函数STAR，该函数利用降低模型预测与其局部参数邻域之间KL散度的 worst-case 参数扰动，以促进稳定性并缓解遗忘。STAR可作为可即插即用的组件与几乎任何现有的基于重放的持续学习方法结合使用。我们通过实证研究表明，STAR在各种基线方法上均能实现最高可达15%的性能提升，并在提升面向持续学习的SOTA方法性能方面取得优异或相当的准确率。
引用
@article{arxiv.2503.01595,
title = {STAR: Stability-Inducing Weight Perturbation for Continual Learning},
author = {Masih Eskandar and Tooba Imtiaz and Davin Hill and Zifeng Wang and Jennifer Dy},
journal= {arXiv preprint arXiv:2503.01595},
year = {2025}
}