关于理解协作式多智能体强化学习中智能体训练行为的诊断
人工智能
2023-12-15 v1
摘要
协作式多智能体强化学习（MARL）在解决分布式决策挑战方面取得了实质性进展。然而，随着多智能体系统复杂性的增加，全面理解其行为变得日益困难。传统上，随时间跟踪团队奖励已被用作衡量智能体学习最优策略有效性的实用指标。尽管如此，我们认为仅依赖经验回报可能会掩盖关于智能体行为的关键见解。在本文中，我们探讨了应用可解释人工智能（XAI）工具以深入了解智能体行为。我们在基于等级的觅食（Level-Based Foraging）和多机器人仓库（Multi-Robot Warehouse）环境中使用这些诊断工具，并将其应用于多种多样的 MARL 算法。我们展示了我们的诊断如何增强 MARL 系统的可解释性和可说明性，从而更好地理解智能体行为。
引用
@article{arxiv.2312.08468,
title = {On Diagnostics for Understanding Agent Training Behaviour in Cooperative MARL},
author = {Wiem Khlifi and Siddarth Singh and Omayma Mahjoub and Ruan de Kock and Abidine Vall and Rihab Gorsane and Arnu Pretorius},
journal= {arXiv preprint arXiv:2312.08468},
year = {2023}
}
备注
4 pages, AAAI XAI4DRL workshop 2023