通过战略风险规避训练通用协作智能体
机器学习
2026-03-02 v2 人工智能
多智能体系统
摘要
许多新兴的智能体范式需要智能体与其他智能体（或人类）协作以实现共同目标。不幸的是，现有的学习用于此类协作问题的策略方法会产生脆弱的解决方案，当与新合作伙伴搭配时会失败。我们将这些失败归因于训练期间的自由骑行以及缺乏战略鲁棒性。为解决这些问题，我们研究战略风险规避的概念，并将其解释为实现与未见合作伙伴的通用协作的原则性归纳偏置。虽然战略风险规避的玩家天生对其合作伙伴行为的偏离具有鲁棒性，但我们表明，在协作博弈中，他们也（1）比经典博弈论概念如纳什均衡拥有更好的均衡结果，且（2）表现出更少或没有自由骑行。鼓舞人心的是，这些洞见促使我们开发了一种多智能体强化学习 (MARL) 算法，将战略风险规避整合到标准的策略优化方法中。我们的实验结果覆盖协作基准测试（包括一个大语言模型协作任务），验证了我们的理论，展示了我们的方法在协作任务中始终能够与异构且未见的合作伙伴实现可靠协作。
引用
@article{arxiv.2602.21515,
title = {Training Generalizable Collaborative Agents via Strategic Risk Aversion},
author = {Chengrui Qu and Yizhou Zhang and Nicolas Lanzetti and Eric Mazumdar},
journal= {arXiv preprint arXiv:2602.21515},
year = {2026}
}