BLAST: 一种针对协作多智能体深度强化学习系统的隐蔽后门利用攻击
人工智能
2025-07-21 v2 密码学与安全
机器学习
摘要
最近的研究表明，协作多智能体深度强化学习 (c-MADRL) 正受到后门攻击的威胁。一旦观察到后门触发器，它将执行恶意动作导致系统失败或实现恶意目标。然而，现有的后门攻击存在若干问题，例如即时触发模式缺乏隐蔽性、后门由额外网络训练或激活，或所有智能体都被后门化。为此，本文提出了一种针对 c-MADRL 的新型后门利用攻击，称为 BLAST，该攻击通过仅在单个智能体中嵌入后门来攻击整个多智能体团队。首先，我们引入作为后门触发器的对手时空行为模式，而非手动注入的固定视觉模式或即时状态和控制执行恶意动作的时间段。此方法可以保证 BLAST 的隐蔽性和实用性。其次，我们通过单向引导来篡改后门智能体的原始奖励函数，以实现通过单个后门智能体撬开整个多智能体系统的“利用攻击效应”。我们在 3 个经典 c-MADRL 算法 (VDN、QMIX 和 MAPPO) 和 2 个流行的 c-MADRL 环境 (SMAC 和 Pursuit) 中对我们的 BLAST 进行评估，并针对 2 种现有防御机制进行测试。实验结果表明，BLAST 能够在保持低干净性能方差的同时实现高攻击成功率。
关键词
引用
@article{arxiv.2501.01593,
title = {BLAST: A Stealthy Backdoor Leverage Attack against Cooperative Multi-Agent Deep Reinforcement Learning based Systems},
author = {Jing Fang and Saihao Yan and Xueyu Yin and Yinbo Yu and Chunwei Tian and Jiajia Liu},
journal= {arXiv preprint arXiv:2501.01593},
year = {2025}
}
备注
12. arXiv admin note: substantial text overlap with arXiv:2409.07775