Plan-and-Write：无需模型再训练的长度导向方法

大型语言模型（LLM）中的长度控制是关键但未被充分关注的挑战，适用于需要简洁响应的语音接口到需要全面输出的研究摘要等应用。当前的长度控制方法，包括正则化DPO、长度指令微调和工具增强方法，通常需要高昂的模型再训练或复杂的推理时工具。本文提出了一种无需模型再训练的提示工程方法，实现精确的长度控制。我们的方法通过在提示中实现明确的规划和单词计数机制，鼓励模型仔细跟踪并遵守指定的长度约束。对六个最先进的LLM进行全面评估表明，我们的方法显著改善了在文档摘要任务中针对几个模型在几个长度约束下的长度忠诚度，尤其是针对较短至中等长度约束。该技术在不同模型架构之间显示出不同的益处，一些模型在长度依从性方面显示出最高可达37.6%的改进。质量评估进一步表明，我们的方法在保持或提升整体输出质量方面优于标准提示技术。我们的做法为需要精确长度控制的应用提供了即开箱即用的解决方案，特别适用于模型再训练不切实可行或成本高昂的生产环境。