更有效地攻击 c-MARL：一种数据驱动方法
机器学习
2023-09-12 v2 人工智能
摘要
近年来，协作多智能体强化学习（c-MARL）方法大量涌现。然而，c-MARL 智能体对抗 adversarial 攻击的鲁棒性很少被探究。在本文中，我们提出通过一种基于模型的方法（称为 c-MBA）来评估 c-MARL 智能体的鲁棒性。我们提出的公式能够比现有的无模型方法制造更强的 adversarial 状态扰动以降低了团队总奖励。此外，我们提出了首个受害智能体选择策略，以及首个数据驱动方法来定义目标失败状态，其中每一种都使我们能够在无需底层环境专家知识的情况下开发出更强的 adversarial 攻击。我们在两个代表性 MARL 基准上的数值实验表明了我们的方法相对于其他基线的优势：我们的基于模型的攻击在所有测试环境中一致优于其他基线。
引用
@article{arxiv.2202.03558,
title = {Attacking c-MARL More Effectively: A Data Driven Approach},
author = {Nhan H. Pham and Lam M. Nguyen and Jie Chen and Hoang Thanh Lam and Subhro Das and Tsui-Wei Weng},
journal= {arXiv preprint arXiv:2202.03558},
year = {2023}
}