基于 LoRA 与任务算术的持续学习方法
计算机视觉与模式识别
2023-11-07 v1 机器学习
摘要
持续学习指的是训练数据以顺序分块（称为“任务”）形式可用的问题。持续学习的大多数进展受困于灾难性遗忘问题，其由模型在连续数据流上的顺序训练引起。此外，对大型模型进行多次顺序训练在计算上代价高昂。为同时缓解这两个问题，我们提出一种新方法，利用低秩适配与任务算术对基于 transformer 的视觉模型进行持续训练。我们的方法完全规避了灾难性遗忘问题，并降低了在每个任务上训练模型的计算需求。在每类仅用 10 个样本的小内存辅助下，我们的方法取得了接近全量微调的性能。我们给出了严谨的消融实验以支撑方法的优势。
引用
@article{arxiv.2311.02428,
title = {Task Arithmetic with LoRA for Continual Learning},
author = {Rajas Chitale and Ankit Vaidya and Aditya Kane and Archana Ghotkar},
journal= {arXiv preprint arXiv:2311.02428},
year = {2023}
}