Q-调优：基于队列的持续少样本语言学习提示调优方法

本文介绍了Q-调优（Q-tuning），这是一种用于持续提示调优的新方法，可实现预训练语言模型的持续学习。学习新任务时，Q-调优通过将其添加到由旧任务提示组成的提示队列中来训练任务特定的提示。为更好地Transfer旧任务的知识，我们设计了一种自适应知识聚合技术，通过可学习的低秩矩阵对队列中以前的提示进行重新加权。一旦提示队列达到最大容量，我们利用基于PCA的驱逐规则来减少队列的大小，以便添加新训练的提示，同时保留旧任务的主要知识。为缓解因驱逐导致的信息累积损失，我们额外提出了一种全局共享前缀提示和一种基于信息论的记忆保持正则化。广泛的实验表明，我们的方法在持续提示调优基准测试上显著优于最先进的方法。此外，我们的方法实现了在线性增长的任务序列上的持续学习，同时在训练和推理时所需的计算复杂度保持恒定。