SoK：多智能体强化学习中的对抗机器学习攻击与防御
机器学习
2023-01-12 v1 人工智能
密码学与安全
摘要
多智能体强化学习（MARL）易受对抗机器学习（AML）攻击，在用于实际应用场景之前需要充分的防御。我们对针对 MARL 的执行时 AML 攻击及相应防御进行了调研。我们考察了 AML 在深度强化学习（DRL）与多智能体学习（MAL）中的应用相关工作，以支撑我们对 MARL 中 AML 的分析。我们提出一种新颖视角，通过定义攻击向量（Attack Vectors）来理解 AML 攻击的实施方式。我们开发了两个新框架以弥补当前建模框架的不足，聚焦于针对 MARL 的 AML 攻击的手段与节奏，并指出了知识空白与未来研究方向。
引用
@article{arxiv.2301.04299,
title = {SoK: Adversarial Machine Learning Attacks and Defences in Multi-Agent Reinforcement Learning},
author = {Maxwell Standen and Junae Kim and Claudia Szabo},
journal= {arXiv preprint arXiv:2301.04299},
year = {2023}
}