存在对抗者情形下的临时组队
多智能体系统
2022-08-11 v1 人工智能
摘要
临时组队（ad hoc teamwork）的进展有潜力创造出在真实世界应用中具备鲁棒协作能力的智能体。然而，部署在真实世界中的智能体易受意图破坏它们的对抗者的攻击。目前关于临时组队的研究很少考虑对抗者的存在。我们阐释了将临时组队扩展至包含对抗者存在的重要性，并阐明为何该问题困难。随后，我们为临时组队中通向更鲁棒的多智能体信息物理基础设施系统的新研究机遇提出若干方向。
引用
@article{arxiv.2208.05071,
title = {Ad Hoc Teamwork in the Presence of Adversaries},
author = {Ted Fujimoto and Samrat Chatterjee and Auroop Ganguly},
journal= {arXiv preprint arXiv:2208.05071},
year = {2022}
}
备注
Blue Sky Ideas Acceptance at the New Frontiers in Adversarial Machine Learning Workshop @ ICML 2022