超越 A*：通过搜索动态引导利用 Transformer 实现更优规划

虽然 Transformer 在各种应用场景中取得了巨大进展，但在解决复杂决策任务方面，此类架构仍落后于传统的符号规划器。在本工作中，我们展示了如何训练 Transformer 来解决复杂的规划任务。这是通过训练一个编码器 - 解码器 Transformer 模型来预测 $A^*$ 搜索算法的搜索动态来实现的。我们对这一模型进行了微调，获得了 Searchformer，这是一种 Transformer 模型，能够以 93.7% 的成功率最优地解决以前未见过的 Sokoban 谜题，同时使用的搜索步骤比最初用于训练的 $A^*$ 实现少多达 26.8%。在我们的训练方法中，$A^*$ 的搜索动态被表示为一个令牌序列，概述了在符号规划期间任务状态何时被添加和移除出搜索树。Searchformer 的性能显著优于直接预测最优计划的基线模型，其模型大小小了 5-10 倍，训练数据集小了 10 倍。最后，我们展示了 Searchformer 如何扩展到更大更复杂的决策任务，提高了任务解决百分比并缩短了搜索动态。