我们 Pi 星中的缺陷：深度强化学习的安全问题与开放挑战
机器学习
2018-10-25 v1 密码学与安全
机器学习
摘要
自深度强化学习(DRL)算法诞生以来，研究界和工业界对这一范式巨大潜力的兴趣与日俱增。深度 RL 当前和设想的应用范围从自主导航和机器人技术到关键基础设施、空中交通管制、国防技术和网络安全中的控制应用。尽管深度 RL 算法的机遇前景和优势确实广阔，但此类算法中的安全风险和问题在很大程度上仍未被探索。为促进并激励对这些关键挑战的进一步研究，本文对 DRL 中的安全问题进行了基础性阐述。我们阐述了 DRL 的安全需求，并通过漏洞、攻击向量和对抗能力的分类与识别提供了高层威胁模型。此外，我们从攻防两个角度回顾了当前关于深度 RL 安全性的文献。最后，我们列举了针对深度 RL 的蓄意攻击的缓解与预防方面的关键研究方向和开放问题，作为该领域进一步研究的路线图。
引用
@article{arxiv.1810.10369,
title = {The Faults in Our Pi Stars: Security Issues and Open Challenges in Deep Reinforcement Learning},
author = {Vahid Behzadan and Arslan Munir},
journal= {arXiv preprint arXiv:1810.10369},
year = {2018}
}
备注
arXiv admin note: text overlap with arXiv:1807.06064, arXiv:1712.03632, arXiv:1803.02811, arXiv:1710.00814 by other authors