IAPT：面向大语言模型的指令感知提示调优
计算与语言
2024-06-10 v2
摘要
软提示调优是广泛研究的参数高效微调方法，但存在明显缺点：为保证下游性能，必须插入大量软标记到输入序列中。因此，在大语言模型（LLM）时代，软提示调优被低秩适应（LoRA）所取代。本文提出一种新颖的提示调优方法——指令感知提示调优（Instruction-Aware Prompt Tuning，IAPT），仅需四个软标记。首先，在每个 Transformer 层安装一个参数高效的软提示生成器，用于为每个输入指令生成特有的软提示。生成的软提示可视为输入指令的语义概述，能有效引导输出生成。其次，软提示生成器是由自注意力池化操作、两个线性投影和激活函数构成的瓶颈架构模块。 pilot 实验表明，不同 Transformer 层的软提示生成器需要不同的激活函数。因此，我们提出借助有理函数自动学习软提示生成器的特有激活函数。我们在 various 任务上进行了实验，实验结果表明：(a) 我们的 IAPT 方法在可比参数的前提下超过了最近的基准方法。(b) 在单一骨干网络多租户设置下，IAPT 方法比 LoRA 更高效。
引用
@article{arxiv.2405.18203,
title = {IAPT: Instruction-Aware Prompt Tuning for Large Language Models},
author = {Wei Zhu and Aaron Xuxiang Tian and Congrui Yin and Yuan Ni and Xiaoling Wang and Guotong Xie},
journal= {arXiv preprint arXiv:2405.18203},
year = {2024}
}
备注
Accepted by ACL-2024