单调改写提升语言模型提示的泛化能力
计算与语言
2024-11-05 v3
摘要
大型语言模型(LLMs)的性能可能因同一任务的不同提示或指令而有所差异。普遍认为造成该现象的因素之一是模型对给定提示或指令的熟悉程度,通常通过其困惑度来估计。然而,鉴于可能的提示短语空间极其庞大,寻找困惑度最低的提示颇具挑战。本文提出单调改写(MonoPara),一种端到端的解码策略,基于改写语言模型(用于提示或指令重写)与目标语言模型(即提示或指令执行器)的集成,将给定提示或指令改写为困惑度更低的对应版本,同时约束生成以降低困惑度。该集成解码过程能够在不改变原始提示语义的前提下高效地改写提示,并使目标语言模型计算的每次生成困惑度单调递减。我们详细探索了 MonoPara 的两种可选解码方案:贪心解码与基于搜索的解码。值得注意的是,MonoPara 无需任何训练即可单调降低改写后提示或指令的困惑度,从而在广泛任务的零样本语言模型提示评估中提升性能。此外,MonoPara 还被证明能有效提升语言模型在扰动与未见任务指令上的泛化能力。
引用
@article{arxiv.2403.16038,
title = {Monotonic Paraphrasing Improves Generalization of Language Model Prompting},
author = {Qin Liu and Fei Wang and Nan Xu and Tianyi Yan and Tao Meng and Muhao Chen},
journal= {arXiv preprint arXiv:2403.16038},
year = {2024}
}
备注
EMNLP 2024 Camera Ready