规模化提升指令遵循
人工智能
2025-10-17 v1
摘要
开发人员通常通过精心操控提示来影响LLM行为，例如通过添加或修改指令。然而，仅添加更多指令几乎无法确保这些指令会被实际遵循。我们提出指令提升（Instruction Boosting）作为后生成方法，以提高LLM提示指令的可靠性。我们表明，指令提升对两个指令的遵循率提升最高可达7分，对十条指令的遵循率提升最高可达4分。为展示这些结果，我们引入了SCALEDIF基准，包含最高可达10条指令的数据样本。我们还present对常见趋势的分析，即随指令数量增加，性能会下降。我们表明，增加指令数量时产生的紧张与冲突程度是导致这一趋势的重要因素。我们提供了一个量化冲突评分工具，解释了观察到的性能趋势，并为开发人员提供关于额外提示指令对模型性能影响的反馈。
引用
@article{arxiv.2510.14842,
title = {Boosting Instruction Following at Scale},
author = {Ben Elder and Evelyn Duesterwald and Vinod Muthusamy},
journal= {arXiv preprint arXiv:2510.14842},
year = {2025}
}
备注
6+4 pages, 7 figures, 2 tables