基于大语言模型的多智能体协作心智理论
计算与语言
2024-06-28 v3 人工智能
摘要
尽管大语言模型（LLMs）在推理与规划方面取得了令人印象深刻的成就，但其在多智能体协作中的能力仍很大程度上未被探索。本研究在多智能体协作文本游戏中，借助心智理论（ToM）推理任务评估基于LLM的智能体，并将其性能与多智能体强化学习（MARL）及基于规划的基线进行比较。我们观察到基于LLM的智能体中出现涌现的协作行为以及高阶心智理论能力。我们的结果揭示了基于LLM的智能体在规划优化上的局限，源于管理长程上下文的系统失败以及对任务状态的幻觉。我们探索使用显式信念状态表示来缓解这些问题，发现其提升了基于LLM的智能体的任务性能与ToM推理准确率。
引用
@article{arxiv.2310.10701,
title = {Theory of Mind for Multi-Agent Collaboration via Large Language Models},
author = {Huao Li and Yu Quan Chong and Simon Stepputtis and Joseph Campbell and Dana Hughes and Michael Lewis and Katia Sycara},
journal= {arXiv preprint arXiv:2310.10701},
year = {2024}
}
备注
Accepted to EMNLP 2023 (Main Conference). Code available at https://github.com/romanlee6/multi_LLM_comm