持续学习中的 PEFT 技术选择：提示调优远不止于此
机器学习
2024-06-06 v1 人工智能
摘要
最近的持续学习（CL）方法将预训练 Transformer 与提示调优（PEFT）技术结合起来。我们认为，先前工作中对提示调优的选择是未经检验和消除实验验证的决定，随后被后续研究不加批判地采纳，但需要进一步研究其影响。本文进行了这项研究，发现提示调优作为 PEFT 方法会损害 CL 系统的整体性能。为说明这一点，我们将提示调优替换为 LoRA，应用于两种最先进的持续学习方法：Learning to Prompt 和 S-Prompts。这些变体在广泛的域增量和类增量基准测试中 consistently 实现更高准确率，而在推理速度方面也具有竞争力。我们的工作突显了一个关键论点：未经检验的选择可能阻碍领域进步，对 PEFT 方法进行严格消除实验至关重要，以推动 CL 技术在实际应用中的真实采用。
引用
@article{arxiv.2406.03216,
title = {Choice of PEFT Technique in Continual Learning: Prompt Tuning is Not All You Need},
author = {Martin Wistuba and Prabhu Teja Sivaprasad and Lukas Balles and Giovanni Zappella},
journal= {arXiv preprint arXiv:2406.03216},
year = {2024}
}