变形器验证计划的能力
人工智能
2026-03-23 v1 计算与语言
机器学习
摘要
变形器在AI规划任务中表现出不一致的成功情况，理论上对何时应期望泛化的理解仍有限。我们采取重要步骤来弥补这一差距，通过分析仅解码模型验证给定计划是否正确解决给定规划实例的能力。在分析输入字母在测试时增长的一般设置下（即对象数量——因此有效输入字母表的大小——随之增长），我们引入 C*-RASP，这是 C-RASP 的一个扩展，旨在为变形器在序列长度和词汇表大小同时增长时建立长度泛化保证。我们的结果识别了一大类经典规划领域，其中变形器可以 provable 地学习验证长期计划的能力，以及显著影响可学习长度泛化解决方案的结构属性。实验结果支持我们的理论。
引用
@article{arxiv.2603.19954,
title = {On the Ability of Transformers to Verify Plans},
author = {Yash Sarrof and Yupei Du and Katharina Stein and Alexander Koller and Sylvie Thiébaux and Michael Hahn},
journal= {arXiv preprint arXiv:2603.19954},
year = {2026}
}