基于演示的可解释 AI 用于学习演示方法

学习演示（LfD）是一种强大的机器学习类型，可允许初学者教导机器人完成各种任务。然而，这些系统的学习过程可能仍然对初学者而言难以解释和理解，导致有效教学具有挑战性。可解释人工智能（XAI）旨在通过解释系统来回应用户。本文在 LfD 中探索 XAI，通过在逆向强化学习（IRL）算法上实现自适应解释性反馈系统。该反馈通过向用户演示所选学习轨迹来实现。系统通过对用户教学进行适应性，按类别对轨迹进行分类，然后有选择地抽取演示给用户，以显示成功与不成功轨迹的代表性样本。该系统通过 26 名参与者教导机器人完成导航任务的用户研究进行评估。用户研究结果表明，所提出的解释性反馈系统可提高机器人性能、教学效率和用户对机器人的理解。