潜在链式思考的能力与基本限制
人工智能
2026-02-03 v1 信息论
机器学习
math.IT
最优化与控制
摘要
潜在链式思考（Latent CoT）模型通过连续表示实现高效推理，却表现出令人 puzzles 的性能不一致：在探索任务（ProsQA: 97.0%）中表现出色，但在计算任务（GSM8K: 34.1%）中失败。我们揭示了这一权衡由决策确定性决定。我们的贡献有三方面：(1) 我们理论上刻画了基本的探索-执行权衡，证明了高确定性促进精确执行但抑制探索，而低确定性促进搜索但导致误差累积。(2) 我们引入符号指数——量化决策承诺——作为支配此权衡的核心机制，并确立其与执行稳定性和探索能力之间的因果关系。(3) 我们证明课程学习是必需的，因为直接训练因分布不匹配而失败。我们的框架将设计范式从二元架构选择转向基于任务需求动态调节决策确定性的自适应系统。
引用
@article{arxiv.2602.01148,
title = {Capabilities and Fundamental Limits of Latent Chain-of-Thought},
author = {Jiaxuan Zou and Yaozhong Xiong and Yong Liu},
journal= {arXiv preprint arXiv:2602.01148},
year = {2026}
}