针对在线深度强化学习的黑盒定向奖励投毒攻击
机器学习
2023-05-19 v1 密码学与安全
摘要
我们提出首个在训练期通过奖励投毒针对在线深度强化学习的黑盒定向攻击。该攻击适用于由未知算法学习的具有未知动态的通用环境，且所需攻击预算与计算资源有限。我们利用通用框架并找到条件以在算法学习的通用假设下确保高效攻击。我们证明在该条件下我们的攻击在框架内是最优的。实验验证表明，在有限预算下，我们的攻击可高效引导学习智能体在多种流行 DRL 环境与最先进学习器中趋向各类目标策略。
引用
@article{arxiv.2305.10681,
title = {Black-Box Targeted Reward Poisoning Attack Against Online Deep Reinforcement Learning},
author = {Yinglun Xu and Gagandeep Singh},
journal= {arXiv preprint arXiv:2305.10681},
year = {2023}
}