InfLoRA：面向持续学习的无干扰低秩适应
机器学习
2024-04-04 v3 人工智能
计算机视觉与模式识别
摘要
持续学习要求模型顺序学习多个任务。在持续学习中，模型应具备保持旧任务性能的能力（稳定性）和持续适应新任务的能力（可塑性）。最近，参数高效微调（PEFT）在持续学习中越来越受欢迎，它冻结预训练模型并注入少量可学习参数以适应下游任务。尽管现有的基于PEFT的持续学习方法相比非PEFT方法表现出优越的性能，但大多数方法没有考虑如何消除新任务对旧任务的干扰，这阻碍了模型在稳定性和可塑性之间取得良好平衡。在这项工作中，我们提出了一种新的PEFT方法，称为无干扰低秩适应（InfLoRA），用于持续学习。InfLoRA注入少量参数来重新参数化预训练权重，并表明微调这些注入参数等价于在子空间内微调预训练权重。此外，InfLoRA设计这个子空间以消除新任务对旧任务的干扰，从而在稳定性和可塑性之间取得良好平衡。实验结果表明，InfLoRA在多个数据集上优于现有的最先进持续学习方法。
引用
@article{arxiv.2404.00228,
title = {InfLoRA: Interference-Free Low-Rank Adaptation for Continual Learning},
author = {Yan-Shuo Liang and Wu-Jun Li},
journal= {arXiv preprint arXiv:2404.00228},
year = {2024}
}
备注
Accepted by the 2024 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR 2024)