利用情景记忆从深度强化学习生成解释
人工智能
2022-07-26 v2 机器学习
神经元与认知
摘要
深度强化学习（RL）涉及使用深度神经网络（DNNs）做出序贯决策以最大化奖励。对于许多任务，深度 RL 策略所产生的动作序列可能很长且难以被人理解。人类解释的一个关键组成部分是选择性，即只复述关键决策与原因。赋予深度 RL 智能体此种能力，将使其所得策略从人类视角更易理解，并生成一组简洁的指令以帮助未来智能体的学习。为此，我们使用带有情景记忆系统的深度 RL 智能体，在策略执行过程中识别并复述关键决策。我们表明这些决策构成了简短、人类可读的解释，并且也可用于以与算法无关的方式加速朴素深度 RL 智能体的学习。
引用
@article{arxiv.2205.08926,
title = {Generating Explanations from Deep Reinforcement Learning Using Episodic Memory},
author = {Sam Blakeman and Denis Mareschal},
journal= {arXiv preprint arXiv:2205.08926},
year = {2022}
}