为什么提示困难？理解二元序列预测器上的提示
计算与语言
2026-05-12 v2 机器学习
机器学习
摘要
前沿模型可以通过提示或条件控制来完成许多任务，但寻找好的提示并不总是容易的，理解某些高效的提示也是如此。我们将提示视为在近似最优的序列预测器上寻找最佳条件序列。在大量控制良好的实验中，我们表明，如果已知预训练分布（通常不可获取），则可以更好地理解反直觉的最优条件序列。即使使用穷举搜索，为实用的神经预测器可靠地识别最优提示也可能出人意料地困难。流行的提示方法，例如使用目标任务中的示例，可能出乎意料地次优。使用相同的实证框架，我们分析了前沿模型上的最优提示，揭示了与二元示例和先前发现相似的模式。总而言之，这项工作从统计和实证的角度迈出了理解最优提示的初步步伐，补充了关于前沿模型的研究。
引用
@article{arxiv.2502.10760,
title = {Why is prompting hard? Understanding prompts on binary sequence predictors},
author = {Li Kevin Wenliang and Anian Ruoss and Jordi Grau-Moya and Marcus Hutter and Tim Genewein},
journal= {arXiv preprint arXiv:2502.10760},
year = {2026}
}