运用推理技能进行思考:更少的 token,更高的准确率
人工智能
2026-04-28 v2
摘要
推理型大语言模型在解决新问题时,常在长时间的中间推理痕迹(如链式思考)上花费大量 token。我们提出对从大量 deliberation 和试错探索中提炼的可重用推理技能进行总结和存储,在推理时检索这些技能以指导未来推理。不同于当前流行的从零开始推理范式,我们的方法首先为每个查询检索相关技能,帮助模型避免冗余的 detour,专注于有效的解决方案路径。我们在编码和数学推理任务上评估了该方法,发现其显著减少推理 token,同时提高整体性能。 resulting 的更低每请求成本表明该方法在实际部署中具有强大的实用和经济潜力。
引用
@article{arxiv.2604.21764,
title = {Thinking with Reasoning Skills: Fewer Tokens, More Accuracy},
author = {Guangxiang Zhao and Qilong Shi and Xusen Xiao and Xiangzheng Zhang and Tong Yang and Lin Sun},
journal= {arXiv preprint arXiv:2604.21764},
year = {2026}
}
备注
10 pages, The 64th Annual Meeting of the Association for Computational Linguistics -- Industry Track