寻找最弱环节：针对多代理通信的对抗攻击

多代理系统依赖于通信进行信息共享和动作协调，这暴露了其对攻击的脆弱性。我们研究针对基于多代理强化学习训练的系统进行单受害者通信扰动攻击的方法，并提出利用雅可比中的梯度信息来识别哪些消息、哪个代理以及哪个时间步最易受攻击且对系统影响最大。我们通过两种提出的对抗损失函数来增强这些方法，后者在攻击成功性和攻击影响之间进行权衡，并产生更有效的扰动。在导航、PredatorPrey 和 TrafficJunction 环境中，我们针对两种不同的多代理通信方法进行了实证演示。我们的结果表明，所提出的新型消息选择方法在几乎所有测试场景中都实现了与随机消息选择相似或更大的影响。我们的受害者选择、消息选择、时序和损失函数在我们测试的三十个场景中提高了一半的攻击效果。