ThinkSwitcher：何时需要深思，何时需要快速思考
计算与语言
2025-05-21 v1
摘要
大型推理模型 (LRM) 通过利用长链式思维 (CoT) 推理在解决复杂任务方面表现出色。然而，这会导致在简单任务上过度思考，产生不必要的计算开销。我们观察到，LRM 本质上具备高效短链式思维推理能力，这可以通过提示设计可靠地激发。为充分利用这一能力，我们提出了 ThinkSwitcher 框架，使单个 LRM 能根据任务复杂度在短链式和长链式模式之间动态切换。ThinkSwitcher 引入了一个轻量级切换模块，通过来自每个推理模式在不同任务上的相对性能的监督信号进行训练。实验表明，在多个推理基准测试上，ThinkSwitcher 可在保持复杂任务高准确率的同时，将计算成本降低 20-30%。这表明 ThinkSwitcher 作为统一 LRM 部署的可扩展且高效解决方案具有有效性。
引用
@article{arxiv.2505.14183,
title = {ThinkSwitcher: When to Think Hard, When to Think Fast},
author = {Guosheng Liang and Longguang Zhong and Ziyi Yang and Xiaojun Quan},
journal= {arXiv preprint arXiv:2505.14183},
year = {2025}
}