基于有界预知为 Atari 游戏提供屏蔽保护

深度强化学习（DRL）被应用于机器人和自动驾驶等安全关键领域。它在许多任务中取得了超越人类的能力，然而 DRL 智能体是否能被证明是安全行动的仍是一个开放问题。Atari 游戏是评估 DRL 智能体安全性一个简单却具挑战性的范例，并具有多样化的游戏机制组合。此前已有研究使用要么需要系统动力学模型、要么需要抽象的方法来研究神经智能体的安全性；遗憾的是，这些方法不适用于 Atari 游戏，因为其底层动力学复杂且隐藏在模拟器内部。我们提出了首个用于分析和确保 Atari 游戏中 DRL 智能体安全性的精确方法。我们的方法仅需访问模拟器。首先，我们给出一组刻画 30 个游戏“安全行为”的 43 条性质。其次，我们开发了一种探索由智能体和游戏引发的所有轨迹的方法，并考虑了多种游戏非确定性来源。我们观察到，现有最优的 DRL 智能体仅能可靠地满足极少数性质；所有智能体都违反了若干关键性质。最后，我们提出了一种将有限显式状态探索与屏蔽（shielding）相结合的应对措施。我们证明，我们的方法在多个性质上提升了所有智能体的安全性。