多智能体强化学习的鲁棒性测试:关键智能体的状态扰动
机器学习
2023-11-09 v1 人工智能
密码学与安全
多智能体系统
摘要
多智能体强化学习(MARL)已广泛应用于智能交通与无人机等诸多领域。然而,大多数MARL算法易受针对智能体状态的对抗扰动影响。对训练后模型进行鲁棒性测试是确认模型在意外扰动下可信性的关键步骤。本文提出一种新颖的MARL鲁棒性测试框架,攻击关键智能体(Critical Agents)的状态(RTCA)。RTCA有两项创新:1)基于差分进化(DE)的方法,用于选择关键智能体作为受害方,并建议其上的最坏情况联合动作;2)采用团队协作策略评估方法作为DE优化的目标函数。随后,基于最坏情况联合动作生成关键智能体的对抗状态扰动。这是首个受害智能体可变的鲁棒性测试框架。RTCA在受害智能体数量与破坏协作策略方面展现出卓越性能。
引用
@article{arxiv.2306.06136,
title = {Robustness Testing for Multi-Agent Reinforcement Learning: State Perturbations on Critical Agents},
author = {Ziyuan Zhou and Guanjun Liu},
journal= {arXiv preprint arXiv:2306.06136},
year = {2023}
}