深度上限：大型语言模型在发现潜在规划中的极限
机器学习
2026-04-09 v1 人工智能
计算与语言
摘要
思维链（CoT）监控的可行性依赖于模型无法在其潜在表示中有效推理。然而，关于LLM中此类潜在推理的极限知之甚少。我们通过研究模型是否能在没有中间步骤监督的情况下发现多步规划策略并在单次前向传播中潜在地执行这些策略，来检验这些极限。使用精确控制所需潜在规划步骤数量的图路径搜索任务，我们揭示了一个未被大规模扩展解决的显著限制：从零开始训练的微型Transformer可以发现最多需要三个潜在步骤的策略，微调后的GPT-4o和Qwen3-32B达到五个，而GPT-5.4在少样本提示下达到七个。尽管模型在训练期间可以学习的最大潜在规划深度为五个，但所发现的策略在测试时泛化至八个潜在步骤。这揭示了发现潜在策略的能力（仅依赖最终答案监督）与执行已发现策略的能力之间的分离。如果类似的限制更广泛地成立，则需要多个协调的潜在规划步骤的策略可能需要被明确教授或外化，从而为CoT监控提供了依据。
引用
@article{arxiv.2604.06427,
title = {The Depth Ceiling: On the Limits of Large Language Models in Discovering Latent Planning},
author = {Yi Xu and Philipp Jettkant and Laura Ruis},
journal= {arXiv preprint arXiv:2604.06427},
year = {2026}
}
备注
10 pages, 3 figures, 1 table (30 pages, 9 figures, 10 tables including references and appendices)