LLM 进化的领域无关启发式用于符号 AI 规划

启发式搜索是符号 AI 规划中的主导范式，最强的启发式是数十年规划研究者工作的成果。最近的工作表明，大语言模型（LLM）可以为单个规划域设计启发式，但目前没有任何 LLM 生成的启发式能在任意规划任务上工作。本文我们使用演化搜索产生了第一个超越手工工程化的领域无关启发式。我们让 LLM 变异父级启发式（用 C++ 编写），将候选者存储在以 informedness 和 speed 为键的 MAP-Elites 存档中，并通过覆盖率与解题时间的混合来计算适应度得分。为将演化程序置于上下文，我们额外对广泛的手工工程化启发式进行基准测试，其在 informedness-speed trade-off 上的表现，我们在此方面尚未见有人进行过。在未见的测试域中，我们最好的演化启发式解决的任务数量超过甚至最强的基线，其完整启发式套组涵盖了该 trade-off 的 Pareto 前沿。我们还发现，从平凡盲目启发式进行演化种子化优于从强 FF 启发式进行种子化，即使最终程序本身是 FF 变体，也如此；并且 LLM 推理 effort 对候选人是否编译的频率影响更大，而不仅仅是那些确实编译的质量。由于演化程序是纯 C++ 编写的，它们可以作为现有规划器中的即插即用替换品，并继承底层搜索的正确性和完备性保证。