第 66 号执行令：面向强化学习的有针对性数据投毒
机器学习
2022-07-29 v2 人工智能
密码学与安全
摘要
强化学习的数据投毒历来聚焦于总体性能退化，而有针对性的攻击通过涉及控制受害者策略与奖励的扰动已取得成功。我们引入了一种阴险的强化学习投毒攻击，其仅在特定目标状态引发智能体不当行为——同时以最小程度修改一小部分训练观测，且不假设对策略或奖励有任何控制。我们通过将一种近期技术——梯度对齐——适配到强化学习来实现这一点。我们测试了该方法，并在两款难度各异的 Atari 游戏中展示了成功。
引用
@article{arxiv.2201.00762,
title = {Execute Order 66: Targeted Data Poisoning for Reinforcement Learning},
author = {Harrison Foley and Liam Fowl and Tom Goldstein and Gavin Taylor},
journal= {arXiv preprint arXiv:2201.00762},
year = {2022}
}
备注
Workshop on Safe and Robust Control of Uncertain Systems at the 35th Conference on Neural Information Processing Systems