从少到多:大规模动态多智能体课程学习
人工智能
2019-11-21 v2 多智能体系统
摘要
大量努力致力于研究智能体如何在多智能体系统中有效学习并实现协调。然而,由于环境与智能体之间复杂的动态性以及状态-动作空间的爆炸,这在大规模多智能体设置中仍然具有挑战性。在本文中,我们设计了一种新颖的动态多智能体课程学习(DyMA-CL)方法,通过从学习小规模多智能体场景开始,并逐步增加智能体数量,来解决大规模问题。我们提出了三种跨课程的迁移机制以加速学习过程。此外,由于状态维度在不同课程间变化,而现有网络结构因其网络输入大小固定而无法应用于这种迁移设置,我们设计了一种名为动态智能体数量网络(DyAN)的新型网络结构来处理动态的网络输入大小。实验结果表明,与最先进的深度强化学习方法相比,使用DyAN的DyMA-CL极大地提高了大规模多智能体学习的性能。我们还通过大量仿真研究了三种跨课程迁移机制的影响。
引用
@article{arxiv.1909.02790,
title = {From Few to More: Large-scale Dynamic Multiagent Curriculum Learning},
author = {Weixun Wang and Tianpei Yang and Yong Liu and Jianye Hao and Xiaotian Hao and Yujing Hu and Yingfeng Chen and Changjie Fan and Yang Gao},
journal= {arXiv preprint arXiv:1909.02790},
year = {2019}
}
备注
Accepted by AAAI2020