大语言模型作为大规模任务规划的常识知识
机器人学
2023-10-31 v2
摘要
大规模任务规划是一项重大挑战。近期工作直接利用大语言模型（LLMs）作为策略，并展示出令人惊讶的有趣结果。本文表明，LLMs 除了提供作用于世界的策略外，还提供了一个关于世界的常识模型。该世界模型与策略可结合于搜索算法（如蒙特卡洛树搜索（MCTS））中，以扩展任务规划的规模。在我们提出的 LLM-MCTS 新算法中，LLM 诱导的世界模型为 MCTS 提供常识先验信念以实现有效推理；LLM 诱导的策略充当启发式以引导搜索，极大提升搜索效率。实验表明，在复杂、新颖的任务上，LLM-MCTS 大幅优于单独的 MCTS 以及由 LLMs（GPT2 和 GPT3.5）诱导的策略。在多个任务——乘法、多跳出行规划、物体重排——上的进一步实验与分析提示最小描述长度（MDL）作为一般指导原则：若世界模型的描述长度显著小于策略的描述长度，则将 LLM 作为世界模型用于基于模型的规划，可能优于仅将 LLM 用作策略。
引用
@article{arxiv.2305.14078,
title = {Large Language Models as Commonsense Knowledge for Large-Scale Task Planning},
author = {Zirui Zhao and Wee Sun Lee and David Hsu},
journal= {arXiv preprint arXiv:2305.14078},
year = {2023}
}
备注
In Proceedings of NeurIPS 2023