Minecraft中的幽灵：基于大语言模型与文本知识记忆的开放世界通用智能体
人工智能
2023-06-02 v2 计算与语言
计算机视觉与模式识别
机器学习
摘要
近年来，引人入胜的Minecraft世界吸引了大量研究兴趣，成为开发能够在开放世界环境中运行的智能体的丰富平台。然而，当前的研究格局主要聚焦于特定目标，例如流行的“ObtainDiamond”任务，尚未展示出对更广泛任务的有效泛化能力。此外，当前“ObtainDiamond”任务的领先成功率约为20%，凸显了现有方法中基于强化学习（Reinforcement Learning, RL）的控制器所存在的局限性。为应对这些挑战，我们提出Ghost in the Minecraft（GITM），一种将大语言模型（Large Language Models, LLMs）与基于文本的知识和记忆相集成的新型框架，旨在在Minecraft中创建通用智能体（Generally Capable Agents, GCAs）。这些智能体具备LLM的逻辑与常识能力，能够通过基于文本的交互熟练地探索复杂、稀疏奖励的环境。我们设计了一组结构化动作，并利用LLM为智能体生成待执行的动作规划。由此得到的基于LLM的智能体显著超越以往方法，在“ObtainDiamond”任务上成功率取得+47.5%的显著提升，并展现出优于传统基于RL的控制器的鲁棒性。值得注意的是，我们的智能体首个完成了Minecraft主世界（Overworld）科技树中所有物品的获取，展示了其广泛的能力。GITM训练无需任何GPU，仅需一个配备32个CPU核心的CPU节点即可。本研究展示了LLM在开发能够处理长程复杂任务并适应开放世界环境中不确定性的智能体方面的潜力。项目网站见 https://github.com/OpenGVLab/GITM。
引用
@article{arxiv.2305.17144,
title = {Ghost in the Minecraft: Generally Capable Agents for Open-World Environments via Large Language Models with Text-based Knowledge and Memory},
author = {Xizhou Zhu and Yuntao Chen and Hao Tian and Chenxin Tao and Weijie Su and Chenyu Yang and Gao Huang and Bin Li and Lewei Lu and Xiaogang Wang and Yu Qiao and Zhaoxiang Zhang and Jifeng Dai},
journal= {arXiv preprint arXiv:2305.17144},
year = {2023}
}