GPS：通用逐样本提示生成器

大型语言模型对提示词敏感，任务性能往往取决于细微甚至不可见的措辞变化。因此，手动编写有效提示词仍然具有挑战性且耗时。最近的自动提示方法缓解了这一困难，但面临三个关键局限性：（i）对于每个新任务，它们需要大量数据来训练出色的提示词；（ii）它们依赖高昂的优化循环，可能需要数小时；（iii）它们通常产生单一的任务级提示，无法适应要解决的个别输入问题。我们提出了 GPS，首个通用且面向逐样本的提示生成方法。无需任何任务特定的微调，GPS 为每个不可见的输入生成量身定制的提示词，跨 diverse 任务提升性能。提示生成器基于一套训练任务通过强化学习进行训练，并包含一种新型正则化，以有效适应逐样本提示。最后，我们采用最小贝叶斯风险解码来稳定推理过程。经验上，GPS 展示了竞争性能：在文本简化任务中获得第二名成绩，在摘要生成和分类任务中分别获得第三名和持平成绩，而且这些任务都未进行训练。对于领域内提示，我们在 GSM8K 上实现了最佳成绩。我们的工作显示，一种新型且有效的自动提示范式的潜力：在无需大量优化和无需访问任务特定训练集的情况下，生成适应性、针对性的提示词。我们的代码已公开于 https://github.com/Batorskq/GPS。