强化学习中的新挑战：安全与隐私综述
机器学习
2023-01-03 v1 人工智能
密码学与安全
摘要
强化学习（RL）是人工智能最重要的分支之一。凭借在动态环境中的自适应与决策能力，强化学习已被广泛应用于医疗、数据市场、自动驾驶与机器人等多个领域。然而，其中部分应用与系统已被证明易受安全或隐私攻击，导致不可靠或不稳定的服务。大量研究聚焦于强化学习中的这些安全与隐私问题。但很少有综述对现有问题及 SOTA 解决方案进行系统回顾与比较，以跟上新兴威胁的步伐。为此，我们在此给出这样一份全面综述，从马尔可夫决策过程（MDP）这一新视角阐释并总结强化学习中安全与隐私相关的挑战。本综述中，我们首先介绍该领域的关键概念。接着，分别涵盖与 MDP 过程的状态、动作、环境与奖励函数相关的安全及隐私问题。我们进一步强调了强化学习相关安全与隐私方法的特殊性质。最后，我们讨论了该领域可能的未来研究方向。
引用
@article{arxiv.2301.00188,
title = {New Challenges in Reinforcement Learning: A Survey of Security and Privacy},
author = {Yunjiao Lei and Dayong Ye and Sheng Shen and Yulei Sui and Tianqing Zhu and Wanlei Zhou},
journal= {arXiv preprint arXiv:2301.00188},
year = {2023}
}