CopyCAT：以恒定攻击掌控神经策略
机器学习
2020-01-22 v2 密码学与安全
机器学习
摘要
我们提出了一种针对深度强化学习智能体的对抗攻击的新视角。我们的主要贡献是 CopyCAT，一种能够将智能体持续引诱至遵循外部者策略的目标攻击。它是预计算的，因此推断快速，从而可用于实时场景。我们在新颖的只读设定下的 Atari 2600 游戏上展示了其有效性。在该设定中， adversary 不能直接修改智能体的状态——其对环境的表示——而只能攻击智能体的观测——其对环境的感知。直接修改智能体的状态需要对智能体内部机制具有写权限，我们认为该假设在现实设定中过于强势。
关键词
引用
@article{arxiv.1905.12282,
title = {CopyCAT: Taking Control of Neural Policies with Constant Attacks},
author = {Léonard Hussenot and Matthieu Geist and Olivier Pietquin},
journal= {arXiv preprint arXiv:1905.12282},
year = {2020}
}
备注
AAMAS 2020