面向协作多智能体老虎机的对抗攻击
机器学习
2023-11-06 v1 密码学与安全
多智能体系统
摘要
协作多智能体多臂老虎机（CMA2B）研究多个智能体在共享多臂老虎机博弈中的协作努力。我们研究这种协作所暴露的潜在漏洞，并考虑对少数智能体实施对抗攻击，以影响其余智能体的决策。更具体地，我们在同质设置（智能体使用相同臂集）和异质设置（智能体具有不同臂集）下研究针对 CMA2B 的对抗攻击。在同质设置中，我们提出攻击策略，通过仅针对一个智能体，说服所有智能体在 T 轮中选择特定目标臂 T-o(T) 次，同时产生 o(T) 的攻击代价。在异质设置中，我们证明目标臂攻击需要线性攻击代价，并提出攻击策略，能够迫使最大数量的智能体承受线性后悔值，同时产生亚线性代价且仅操纵少数目标智能体的观测。数值实验验证了我们所提攻击策略的有效性。
引用
@article{arxiv.2311.01698,
title = {Adversarial Attacks on Cooperative Multi-agent Bandits},
author = {Jinhang Zuo and Zhiyao Zhang and Xuchuang Wang and Cheng Chen and Shuai Li and John C. S. Lui and Mohammad Hajiesmaili and Adam Wierman},
journal= {arXiv preprint arXiv:2311.01698},
year = {2023}
}