中文

NVIF:面向大规模协作多智能体场景的邻域变分信息流

多智能体系统 2022-07-05 v1

摘要

基于通信的多智能体强化学习(MARL)提供智能体间的信息交换,从而促进协作。然而,现有方法在大规模多智能体系统中表现不佳。本文采用邻域通信,提出邻域变分信息流(NVIF)以为智能体提供高效通信。其采用变分自编码器将共享信息压缩为潜状态。该通信协议不依赖于特定任务,因此可预训练以稳定MARL训练。此外,我们将NVIF与近端策略优化(NVIF-PPO)和深度Q网络(NVIF-DQN)结合,并给出理论分析说明NVIF-PPO可促进协作。我们在广泛使用的大规模多智能体环境MAgent上,通过两个不同地图大小的任务评估NVIF-PPO和NVIF-DQN。实验表明,我们的方法优于其他对比方法,并能在大规模多智能体系统中学习到有效且可扩展的协作策略。

关键词

引用

@article{arxiv.2207.00964,
  title  = {NVIF: Neighboring Variational Information Flow for Large-Scale Cooperative Multi-Agent Scenarios},
  author = {Jiajun Chai and Yuanheng Zhu and Dongbin Zhao},
  journal= {arXiv preprint arXiv:2207.00964},
  year   = {2022}
}