多智能体系统下的最优代价约束对抗攻击
机器学习
2024-03-05 v1 人工智能
密码学与安全
多智能体系统
摘要
寻找最优对抗攻击策略是强化学习和马尔可夫决策过程中的重要课题。以往研究通常假设存在一个全知的协调者(攻击者),其攻击不同接收方(受害)智能体所产生的代价是均匀的。然而在现实中,攻击往往需由分布式攻击智能体执行,而非使用一个无限制的中央攻击者。我们形式化了使用分布式攻击智能体执行最优对抗智能体间攻击的问题,其中我们对每一不同的攻击者-受害者对施加不同的代价约束。我们提出一种最优方法,将步内静态约束攻击资源分配优化与步间动态规划相整合,以在多智能体系统中实现最优对抗攻击。我们的数值结果表明,所提出的攻击能显著降低被攻击智能体获得的奖励。
引用
@article{arxiv.2311.00859,
title = {Optimal Cost Constrained Adversarial Attacks For Multiple Agent Systems},
author = {Ziqing Lu and Guanlin Liu and Lifeng Lai and Weiyu Xu},
journal= {arXiv preprint arXiv:2311.00859},
year = {2024}
}
备注
Submitted to ICCASP2024