CAMA：探索 c-MARL 中的合作性对抗攻击
机器学习
2026-03-24 v1 人工智能
摘要
合作型多智能体强化学习（c-MARL）已在社交机器人、具身智能、无人机编队等实际应用中广泛部署。然而，许多对抗攻击仍然威胁着各种c-MARL系统。当前研究主要关注单一攻击者扰动攻击和白盒攻击，这些攻击通过操控智能体的内部观察或动作来实现。为克服这些限制，本文尝试通过战略性地组织一组恶意智能体进入三种合作性攻击模式：集体恶意智能体、伪装恶意智能体和间谍恶意智能体。本文涉及三项创新：i）首次提出三种合作性对抗攻击，并设计了用于策略级合作性攻击的统一框架CAMA；ii）从干扰性、隐蔽性和攻击成本三个角度理论分析了攻击效果；iii）通过智能体观察信息融合、攻击触发控制等技术实现了三种合作性攻击。最后，在四个SMAC II地图上进行多维实验，实验结果表明，三种合作性攻击具有叠加性对抗协同效应，在维持高隐蔽性和长期稳定性的同时，增强了攻击效果。我们的工作填补了c-MARL中合作性对抗学习的空白。
引用
@article{arxiv.2603.20390,
title = {CAMA: Exploring Collusive Adversarial Attacks in c-MARL},
author = {Men Niu and Xinxin Fan and Quanliang Jing and Shaoye Luo and Yunfeng Lu},
journal= {arXiv preprint arXiv:2603.20390},
year = {2026}
}