至善安全强化学习
机器学习
2018-05-30 v1 人工智能
计算机科学与博弈论
机器学习
摘要
我们指出，当第三方即对手介入安全可中断强化学习的两方设定（智能体与操作员）时，必须在极限下遵循最优策略的概率与摆脱对手所制造危险情境的概率之间做出权衡。迄今为止，关于安全可中断智能体的研究都假定智能体对环境具有完美感知（无对手），从而隐式地将第二个概率设为零，并显式追求第一个概率为1。我们证明：（1）智能体可同时具备可中断性与对手韧性；（2）可中断性可做到安全，即智能体自身不会试图规避中断。我们还解决了当智能体未完全贪婪时所出现的问题，即极限下安全探索的难题。对扰动感知的韧性、极限下的安全探索与安全可中断性，构成了我们称之为“至善安全强化学习”的三大支柱。
引用
@article{arxiv.1805.11447,
title = {Virtuously Safe Reinforcement Learning},
author = {Henrik Aslund and El Mahdi El Mhamdi and Rachid Guerraoui and Alexandre Maurer},
journal= {arXiv preprint arXiv:1805.11447},
year = {2018}
}