BARReL：基于视觉的强化学习中用于对抗鲁棒性的瓶颈注意力
机器学习
2022-08-23 v1 人工智能
密码学与安全
计算机视觉与模式识别
机器人学
摘要
对对抗扰动的鲁棒性已在计算机视觉的许多领域中得到研究。这种鲁棒性在基于视觉的强化学习中尤为相关，因为自主智能体的动作在现实世界中可能关乎安全或产生重大影响。我们研究了基于视觉的强化学习智能体对基于梯度的对抗攻击的易感性，并评估了一种潜在的防御手段。我们观察到，包含在 CNN 架构中的瓶颈注意力模块（BAM）可作为提升对抗攻击鲁棒性的潜在工具。我们展示了如何利用学习到的注意力图，通过将空间激活限制于显著区域来恢复卷积层的激活。在多个强化学习环境中，增强 BAM 的架构在推理时表现出更高的鲁棒性。最后，我们讨论了潜在的未来研究方向。
引用
@article{arxiv.2208.10481,
title = {BARReL: Bottleneck Attention for Adversarial Robustness in Vision-Based Reinforcement Learning},
author = {Eugene Bykovets and Yannick Metz and Mennatallah El-Assady and Daniel A. Keim and Joachim M. Buhmann},
journal= {arXiv preprint arXiv:2208.10481},
year = {2022}
}
备注
5 pages, 2 figures, 3 tables