可解释强化学习的趣味性要素：理解智能体的能力与局限
机器学习
2020-08-20 v2 人工智能
人机交互
机器学习
摘要
我们提出一个可解释强化学习（XRL）框架，该框架分析智能体与环境交互的历史以提取有助于解释其行为的趣味性要素。该框架依赖于标准 RL 算法 readily 可用的数据，并辅以智能体在学习过程中可轻松收集的数据。我们描述了如何基于所提出的要素，以突出关键交互时刻的短视频片段形式创建智能体行为的可视化摘要。我们还报告了一项用户研究，其中我们评估了人类在给定由我们的框架自动生成的可视化摘要时，正确感知具有不同特征（包括其能力与局限）的智能体资质的能力。结果表明，不同趣味性要素所捕捉方面的多样性对于帮助人类正确理解智能体执行任务时的优势与局限，并确定其何时可能需要调整以改进性能至关重要。
引用
@article{arxiv.1912.09007,
title = {Interestingness Elements for Explainable Reinforcement Learning: Understanding Agents' Capabilities and Limitations},
author = {Pedro Sequeira and Melinda Gervasio},
journal= {arXiv preprint arXiv:1912.09007},
year = {2020}
}
备注
To appear in: Artificial Intelligence