争取正确问题：通过生成的中间步骤提升推理能力
人工智能
2026-05-18 v2
摘要
近年来，针对数学和编码等复杂推理任务的LLM能力取得了显著进展。随着我们开始将LLM应用于更难以单次解决的任务，值得关注它们构建中间步骤（stepping stones）的能力，这些步骤为更好地解决任务提供准备。中间步骤的示例包括简化、替代表述或子问题。我们通过ARQ（Asking the Right Questions）框架研究了现代推理LLM中中间步骤的属性与益处，该框架引入question generator至默认推理管道。我们首先展示了优质中间步骤问题的存在性与可传递性，即优质问题可被生成，且在解决目标任务方面对不同能力的LLM均产生显著帮助。我们进一步将中间步骤生成定义为后训练任务，表明我们可通过在合成数据上进行SFT和RL来微调LLM，以生成更有用的中间步骤。
引用
@article{arxiv.2602.19069,
title = {Asking the Right Questions: Improving Reasoning with Generated Stepping Stones},
author = {Hengyuan Hu and Tingchen Fu and Minqi Jiang and Alexander H Miller and Yoram Bachrach and Jakob Nicolaus Foerster},
journal= {arXiv preprint arXiv:2602.19069},
year = {2026}
}