大语言模型能否跟踪其输出长度？用于精确长度调节的动态反馈机制
计算与语言
2026-01-08 v2
摘要
精确控制生成文本的长度是实际应用中常见的需求。然而，尽管在遵循人类指令方面取得了显著进展，大语言模型(LLM)仍然在这方面存在挑战。本文演示了大语言模型往往无法准确测量其响应长度，导致对长度约束的遵循效果不佳。为此，我们提出了一种 novel 的长度调节方法，通过在生成过程中引入动态长度反馈，实现对目标长度的自适应调整。在摘要和传记等任务上的实验表明，我们的方法在不牺牲质量的前提下，显著提高了实现目标token、字数或句子数量的精度。此外，我们还演示了通过受监督的微调，进一步可以使该方法在更广泛的文本生成任务中有效泛化。
引用
@article{arxiv.2601.01768,
title = {Can LLMs Track Their Output Length? A Dynamic Feedback Mechanism for Precise Length Regulation},
author = {Meiman Xiao and Ante Wang and Qingguo Hu and Zhongjian Miao and Huangjun Shen and Longyue Wang and Weihua Luo and Jinsong Su},
journal= {arXiv preprint arXiv:2601.01768},
year = {2026}
}