Overcooked泛化挑战:使用无监督环境设计评估与未知伙伴在新环境中的合作
机器学习
2025-09-15 v3 人工智能
多智能体系统
摘要
我们引入了Overcooked泛化挑战(OGC)——一个新的基准测试,用于评估强化学习(RL)智能体在与未知伙伴在不熟悉环境中合作的能力。现有工作通常仅在其训练环境或与其训练伙伴一起评估合作RL,这严重限制了我们理解智能体泛化能力——这是未来与人类合作的基本要求。OGC扩展了Overcooked-AI以支持双课程设计(DCD)。它完全由GPU加速、开源,并集成到minimax DCD基准测试套件中。与先前的DCD基准测试(设计者仅操纵环境的最小元素)相比,OGC引入了显著更丰富的设计空间:包含多个对象的完整厨房布局,要求设计者考虑智能体之间的交互动态。我们评估了最先进的DCD算法以及可扩展的神经架构,发现当前方法无法产生能够有效泛化到新布局和陌生伙伴的智能体。我们的结果表明,智能体和课程设计者都难以应对伙伴和环境泛化的联合挑战。这些发现确立了OGC作为合作泛化的高要求测试平台,并突出了未来研究的关键方向。我们开源了我们的代码。
引用
@article{arxiv.2406.17949,
title = {The Overcooked Generalisation Challenge: Evaluating Cooperation with Novel Partners in Unknown Environments Using Unsupervised Environment Design},
author = {Constantin Ruhdorfer and Matteo Bortoletto and Anna Penzkofer and Andreas Bulling},
journal= {arXiv preprint arXiv:2406.17949},
year = {2025}
}
备注
TMLR, 31 pages