思想操控：外部思想对大规模推理模型有效
计算与语言
2025-08-05 v2 人工智能
摘要
近期大规模推理模型(LRM)的发展表明，通过扩大推理计算量可显著提升其在各类任务上的推理能力。然而，LRM常面临“过度思考”问题，即生成冗余的推理步骤且性能提升有限。本文我们经验性地发现，LRM的重要特征是：将由小模型生成的外部CoT置于思考标记(\texttt{\`i})和\texttt{)}之间，可有效操控模型生成更少的思考过程。基于此发现，我们提出一种简单高效的管道\Method，使LRM能够绕过不必要的中间步骤，从而显著降低计算成本。我们对\Method的实用性和效率进行了广泛实验评估。例如，在QwQ-32B模型上应用至LiveBench/Code数据集时，\Method在保持原有性能的同时，将输出token数降低约30%，且因CoT生成器引入的开销最小。进一步，我们识别出两种次优模式：盲目跟随错误的外部思考以及不必要的重新思考，并表明简单的缓解措施，如难度感知式回退，可进一步提升性能。总体而言，\Method为优化LRM推理提供了一种实用、通用且高效的方法，使强大推理模型更加可及且可扩展，用于实际应用。
引用
@article{arxiv.2504.13626,
title = {Thought Manipulation: External Thought Can Be Efficient for Large Reasoning Models},
author = {Yule Liu and Jingyi Zheng and Zhen Sun and Zifan Peng and Wenhan Dong and Zeyang Sha and Shiwen Cui and Weiqiang Wang and Xinlei He},
journal= {arXiv preprint arXiv:2504.13626},
year = {2025}
}