在线多智能体强化学习的高效对抗攻击
机器学习
2023-07-18 v1 人工智能
密码学与安全
最优化与控制
摘要
由于多智能体强化学习（MARL）应用广泛，理解针对MARL模型的对抗攻击的影响对于该模型的安全应用至关重要。受此驱动，我们研究了对抗攻击对MARL的影响。在所考虑的设定中，存在一个外生攻击者可于智能体接收奖励前修改奖励，或于环境接收动作前操纵动作。攻击者旨在将每个智能体引导至目标策略，或在攻击者选定的特定奖励函数下最大化累积奖励，同时最小化对反馈与动作的操纵量。我们首先展示了仅动作投毒攻击与仅奖励投毒攻击的局限性。随后我们引入了一种兼具动作投毒与奖励投毒的混合攻击策略。我们表明，即便攻击者无关于底层环境与智能体算法的先验信息，该混合攻击策略仍能高效攻击MARL智能体。
引用
@article{arxiv.2307.07670,
title = {Efficient Adversarial Attacks on Online Multi-agent Reinforcement Learning},
author = {Guanlin Liu and Lifeng Lai},
journal= {arXiv preprint arXiv:2307.07670},
year = {2023}
}