A*-Thought：面向低资源场景基于双向压缩的高效推理
计算与语言
2025-10-21 v2
摘要
大型推理模型（LRM）通过延长思考长度实现了卓越的性能。然而，冗长的思维轨迹会导致效率降低。现有大多数方法陷入过度思考的假设中，试图通过压缩思维链来实现高效推理，但这往往导致性能下降。为解决这一问题，我们提出了 A*-Thought，这是一个基于树搜索的高效统一框架，旨在从这些模型生成的冗长推理链中识别并分离出最核心的思考。它将 LRM 的推理过程形式化为一个搜索树，其中每个节点代表巨大推理空间中的一个推理片段。通过将 A* 搜索算法与特定于推理路径的代价函数相结合，它能够高效压缩思维链，并确定一条具有高信息密度和低成本的推理路径。此外，我们还提出了一种双向重要性估计机制，进一步优化了该搜索过程，并使其效率超越均匀采样。在多个高级数学任务上的大量实验表明，A*-Thought 在巨大的搜索空间中有效平衡了性能与效率。具体而言，A*-Thought 在低预算下可将 QwQ-32B 的性能提升 2.39 倍，在高预算下可将输出 token 长度减少近 50%。所提方法还与多个其他 LRM 兼容，证明了其泛化能力。代码可在：https://github.com/AI9Stars/AStar-Thought 获取。
引用
@article{arxiv.2505.24550,
title = {A*-Thought: Efficient Reasoning via Bidirectional Compression for Low-Resource Settings},
author = {Xiaoang Xu and Shuo Wang and Xu Han and Zhenghao Liu and Huijia Wu and Peipei Li and Zhiyuan Liu and Maosong Sun and Zhaofeng He},
journal= {arXiv preprint arXiv:2505.24550},
year = {2025}
}
备注
Accepted by NeurIPS 2025