交互式解释：基于强化学习的智能体行为的诊断与修正
人机交互
2021-05-28 v1
摘要
强化学习技术已能成功生成令人信服的智能体行为，但要让行为贴合用户特定偏好仍十分困难。目前缺少的是一种沟通方法，使系统能够解释行为并让用户予以修正。本文提出一种新颖的交互方法，使用自然语言模板的交互式解释作为沟通手段。该交互方法的主要优势在于它建立了用户与智能体之间的双向沟通渠道；机器人可向用户解释其思考过程，用户也可利用相同的交互式解释向机器人传达其行为偏好。如此一来，机器人的思考过程变得透明，用户能够提供包含建议动作、待达成目标及决策理由的修正。我们在名为 Super Mario Bros. 的电子游戏复刻版中测试了所提方法，结果表明我们的交互式解释方法在诊断和修正机器人行为方面行之有效。
引用
@article{arxiv.2105.12938,
title = {Interactive Explanations: Diagnosis and Repair of Reinforcement Learning Based Agent Behaviors},
author = {Christian Arzate Cruz and Takeo Igarashi},
journal= {arXiv preprint arXiv:2105.12938},
year = {2021}
}