并非所有记号在思考中都是重要的
计算与语言
2025-08-05 v2
摘要
现代推理模型，如 OpenAI 的 o1 和 DeepSeek-R1，展现出惊人的解决问题能力，但存在关键效率问题：高推理延迟、过度消耗计算资源，以及倾向于“过度思考”——生成冗余记号的链式思维(CoT)，这些记号对最终答案贡献最小。为此，我们提出条件记号选择(CTS)，一种具有灵活可变压缩比的记号级压缩框架，识别并保留CoT中最 essential 的记号。CTS 使用条件重要性评分评估每个记号对获取正确答案的贡献，然后在压缩后的CoT上训练模型。大量实验表明，CTS有效压缩长CoT，同时保持强大的推理性能。值得注意的是，在GPQA基准上，使用CTS训练的Qwen2.5-14B-Instruct实现了9.1%的准确率提升，同时减少了13.2%的推理记号(训练记号减少13%)。进一步减少训练记号42%，仅导致5%的准确率下降，却实现了75.8%的推理记号减少，凸显了现有CoT中冗余的普遍性。
引用
@article{arxiv.2505.17827,
title = {Not All Tokens Are What You Need In Thinking},
author = {Hang Yuan and Bin Yu and Haotian Li and Shijun Yang and Christina Dan Wang and Zhou Yu and Xueyin Xu and Weizhen Qi and Kai Chen},
journal= {arXiv preprint arXiv:2505.17827},
year = {2025}
}
备注
11 pages, 7 figures and 3 tables