通过对抗性少数派影响攻击协作式多智能体强化学习
机器学习
2024-07-31 v3
摘要
本研究探讨了协作式多智能体强化学习 (c-MARL) 在对抗攻击下的脆弱性，这是 c-MARL 在实际部署前最坏情况性能的关键决定因素。当前基于观测的攻击受限于白盒假设，忽略了 c-MARL 复杂的多智能体交互和协作目标，导致攻击能力不切实际且受限。为了解决这些不足，我们提出了对抗性少数派影响 (AMI)，一种针对 c-MARL 的实用且强大的攻击方法。AMI 是一种实用的黑盒攻击，可以在不知道受害者参数的情况下发起。AMI 还通过考虑复杂的多智能体交互和智能体的协作目标而显得强大，使得单个对抗智能体能够单方面误导多数受害者形成特定的最坏情况合作。这映射了社会心理学中的少数派影响现象。为了在复杂的智能体交互下实现受害者策略的最大偏差，我们的单边攻击旨在表征并最大化对抗者对受害者的影响。这是通过调整从互信息推导出的单边智能体关系度量来实现的，从而减轻受害者对对抗者的不利影响。为了将受害者引入共同有害的情境，我们的定向攻击通过强化学习智能体执行的试错过程确定特定目标，引导每个受害者走向该目标，从而欺骗受害者进入长期的、协作上有害的处境。通过 AMI，我们实现了针对现实世界机器人集群的首次成功攻击，并在模拟环境中有效地将智能体欺骗至集体最坏情况，包括 Starcraft II 和 Multi-agent Mujoco。源代码和演示可在以下网址找到：https://github.com/DIG-Beihang/AMI。
关键词
引用
@article{arxiv.2302.03322,
title = {Attacking Cooperative Multi-Agent Reinforcement Learning by Adversarial Minority Influence},
author = {Simin Li and Jun Guo and Jingqiao Xiu and Yuwei Zheng and Pu Feng and Xin Yu and Aishan Liu and Yaodong Yang and Bo An and Wenjun Wu and Xianglong Liu},
journal= {arXiv preprint arXiv:2302.03322},
year = {2024}
}