CoLT：链式潜在工具调用推理
计算与语言
2026-02-05 v1
摘要
链式思维 (CoT) 是增强大型语言模型 (LLM) 推理能力的关键技术，潜在推理方法已被提出以加速低效的逐 token 推理链。我们注意到现有潜在推理方法通常需要模型结构增强和彻底训练，限制了其更广泛的适用性。本文提出 CoLT，一种将潜在推理实现为“工具调用”的新框架。CoLT 生成包含推理步骤信息的种子 token。当触发潜在工具调用时，较小的外部模型会将种子 token 的隐藏状态作为输入， 将种子 token 解包为完整的推理步骤。如此一来，可以确保主模型在显式 token 空间中进行推理，保留其能力同时提高效率。在四个数学数据集上的实验结果表明，CoLT 在准确率和推理长度方面均优于基线潜在模型，并且与强化学习算法和不同解码器结构兼容。
引用
@article{arxiv.2602.04246,
title = {CoLT: Reasoning with Chain of Latent Tool Calls},
author = {Fangwei Zhu and Zhifang Sui},
journal= {arXiv preprint arXiv:2602.04246},
year = {2026}
}