当思考失败：大型语言模型中推理对指令遵循的陷阱
计算与语言
2025-09-03 v3
摘要
经过推理增强的大型语言模型（RLLM），无论是通过显式训练进行推理，还是通过思维链（CoT）提示，在许多复杂推理任务上都取得了最先进的性能。然而，我们发现了一个令人惊讶且此前被忽视的现象：显式的思维链推理会显著降低指令遵循的准确性。在两个基准测试上评估了15个模型：IFEval（具有简单、可规则验证的约束）和ComplexBench（具有复杂、组合性的约束），我们一致观察到应用思维链提示时性能下降。通过大规模案例研究和基于注意力的分析，我们识别出推理有帮助（例如，在格式化或词汇精确性方面）或有损害（例如，忽略简单约束或引入不必要内容）的常见模式。我们提出了一个度量标准——约束注意力，用于量化生成过程中的模型焦点，并表明思维链推理常常将注意力从与指令相关的标记上转移开。为了减轻这些影响，我们引入并评估了四种策略：上下文学习、自我反思、自我选择性推理和分类器选择性推理。我们的结果表明，选择性推理策略，特别是分类器选择性推理，可以大幅恢复丢失的性能。据我们所知，这是首次系统性地揭示推理在指令遵循中引发的失败并提供实用缓解策略的工作。
引用
@article{arxiv.2505.11423,
title = {When Thinking Fails: The Pitfalls of Reasoning for Instruction-Following in LLMs},
author = {Xiaomin Li and Zhou Yu and Zhiwei Zhang and Xupeng Chen and Ziji Zhang and Yingying Zhuang and Narayanan Sadagopan and Anurag Beniwal},
journal= {arXiv preprint arXiv:2505.11423},
year = {2025}
}