用于软提示调优的贝叶斯多任务迁移学习
计算与语言
2024-02-14 v1
摘要
提示调优通过优化提示以使大规模预训练语言模型适应下游任务，而非微调全部模型参数，已被证明当提示在多任务迁移学习设置中训练时尤为有效。这些方法通常涉及为每个源任务单独训练提示，然后将它们聚合以提供目标任务的提示初始化。然而，这种方法严重忽略了一个事实，即某些源任务可能彼此产生负面或正面的干扰。我们认为，当我们通过训练源提示从源任务中提取知识时，需要考虑源任务之间的这种相关性，以便更好地迁移到目标任务。为此，我们提出了一种贝叶斯方法，在其中我们处理跨源任务的提示的后验分布。我们利用 Stein 变分梯度下降获得了对应于后验样本的代表性源提示，然后将它们聚合以构成初始目标提示。我们在标准基准 NLP 任务上展示了广泛的实验结果，其中我们的贝叶斯多任务迁移学习方法在许多设置中优于 SOTA 方法。此外，我们的方法除了提示本身外不需要任何辅助模型，实现了高度的参数效率。
引用
@article{arxiv.2402.08594,
title = {Bayesian Multi-Task Transfer Learning for Soft Prompt Tuning},
author = {Haeju Lee and Minchan Jeong and Se-Young Yun and Kee-Eung Kim},
journal= {arXiv preprint arXiv:2402.08594},
year = {2024}
}
备注
The first two authors equally contributed to this work. Findings of EMNLP 2023