Ruler：一种控制大语言模型生成长度的模型无关方法
计算与语言
2024-10-02 v2
摘要
大语言模型的指令遵循能力使人类能够以自然的方式与 AI 智能体交互。然而，当需要生成特定长度的回复时，大语言模型由于难以准确感知数值约束，往往难以满足用户需求。为了探索大语言模型控制生成回复长度的能力，我们提出了目标长度生成任务（TLG），并设计了精确匹配（PM）和灵活匹配（FM）两个指标，以评估模型在遵循指定回复长度方面的表现。此外，我们引入了一种名为 Ruler 的新型模型无关方法，该方法采用元长度标记（MLT）来增强大语言模型在长度受限指令下的指令遵循能力。具体而言，Ruler 使 LLM 能够根据指令内的长度约束生成指定长度的回复。此外，当未明确提供长度约束时，Ruler 可以自动生成适当的 MLT，展现出出色的通用性和泛化能力。综合实验表明了 Ruler 在不同 LLM 的目标长度生成任务上的有效性，例如，在所有级别上 PM 平均提升 27.97，FM 平均提升 29.57。此外，我们进行了广泛的消融实验，以进一步证实 Ruler 的有效性和泛化能力。我们的代码和数据可在 https://github.com/Geaming2002/Ruler 获取。
引用
@article{arxiv.2409.18943,
title = {Ruler: A Model-Agnostic Method to Control Generated Length for Large Language Models},
author = {Jiaming Li and Lei Zhang and Yunshui Li and Ziqiang Liu and yuelin bai and Run Luo and Longze Chen and Min Yang},
journal= {arXiv preprint arXiv:2409.18943},
year = {2024}
}