中文

层级分组提示调优:用于持续学习的教学提示协调方法

计算机视觉与模式识别 2026-05-11 v3

摘要

基于提示的持续学习方法仅微调少量可学习参数,同时保持预训练模型的参数冻结。这使得能够高效适应新任务,同时缓解灾难性遗忘风险。这类方法通常为预训练模型的每一层附加一个独立的任务特定提示,以局部调制其特征,确保该层的表征与新任务的需求相匹配。然而,虽然在每个层级独立引入可学习提示为适应新任务提供了很大的灵活性,但这种过度灵活的调参可能使某些层级易受不必要的更新。由于所有到目前为止的提示总和作为当前所有已见任务的最终提示被添加到模型中,模型可能会轻易覆盖对先前任务至关重要的特征表征,从而增加灾难性遗忘的风险。为此,我们提出一种新颖的层级分组提示调优方法,用于持续学习。该方法以两种方式提高模型稳定性:(i)同一组内的层级共享大致相同的提示,这些提示由位置编码调整。这有助于在每个组内保留预训练模型的内在特征关系和传播路径。(ii)利用单个任务特定的根提示来学习为每个层级组生成子提示。如此一来,所有子提示都以相同的根提示为条件,从而增强它们之间的协同作用,减少独立性。在四个基准测试上的广泛实验表明,我们的方法在多个领先方法中取得优异性能。

关键词

引用

@article{arxiv.2511.12090,
  title  = {Teaching Prompts to Coordinate: Hierarchical Layer-Grouped Prompt Tuning for Continual Learning},
  author = {Shengqin Jiang and Tianqi Kong and Yuankai Qi and Haokui Zhang and Lina Yao and Quan Z. Sheng and Qingshan Liu and Ming-Hsuan Yang},
  journal= {arXiv preprint arXiv:2511.12090},
  year   = {2026}
}

备注

We have reconsidered the issue, and an updated version will be released later