语言模型规划器规模化无效，但Formalizer有效？
计算与语言
2026-03-26 v1
摘要
最近的研究表明，尽管大语言模型（LLM）甚至那些被训练能够扩展其推理轨迹的模型，在解决过于复杂的规划问题时仍表现不佳。对于生成面向求解器的程序的LLM Formalizer而言，同样的结论是否成立尚不明确。我们系统性地表明，LLM Formalizer在LLM规划器中取得了显著的规模化优势，其中一些模型在经典的BlocksWorld领域中保持完美准确性，尽管该领域的状态空间可达。尽管较小的LLM Formalizer在问题复杂性方面性能下降，但我们表明，通过分治式建模技术可以大大提高其鲁棒性。最后，我们引入不可解问题，其中一个问题描述的一行对应于大量行的形式语言，如规划域定义语言（PDDL），这对LLM Formalizer构成了巨大的挑战。我们通过引入一种新范式，即LLM作为高阶Formalizer，其中LLM生成程序生成器来应对这一挑战。这将令牌输出与底层形式化和搜索空间的组合爆炸相分离。
引用
@article{arxiv.2603.23844,
title = {Language Model Planners do not Scale, but do Formalizers?},
author = {Owen Jiang and Cassie Huang and Ashish Sabharwal and Li Zhang},
journal= {arXiv preprint arXiv:2603.23844},
year = {2026}
}