多智能体强化学习中的稀疏对抗攻击
人工智能
2022-08-09 v2
摘要
协作多智能体强化学习（cMARL）具有许多实际应用，但现有cMARL算法训练的策略在部署时不够鲁棒。也有许多关于RL系统对抗攻击的方法，表明RL系统可能遭受对抗攻击，但其中多数聚焦于单智能体RL。本文中，我们提出一种针对cMARL系统的稀疏对抗攻击（sparse adversarial attack）。我们使用带正则化的（MA）RL训练攻击策略。实验表明，当团队中仅有一个或少数智能体（例如8个中1个或25个中5个）在少数时间步（例如总40个时间步中攻击3个）被攻击时，当前cMARL算法训练的策略会表现很差。
关键词
引用
@article{arxiv.2205.09362,
title = {Sparse Adversarial Attack in Multi-agent Reinforcement Learning},
author = {Yizheng Hu and Zhihua Zhang},
journal= {arXiv preprint arXiv:2205.09362},
year = {2022}
}