用于强化学习可解释性的抽象轨迹可视化
人机交互
2024-02-14 v1 人工智能
机器学习
摘要
可解释人工智能 (XAI) 已展现出帮助强化学习 (RL) 从业者理解 RL 模型工作原理的潜力。然而，针对不具备 RL 专业知识用户（非 RL 专家）的 XAI 研究尚不充分。这导致非 RL 专家难以参与关于在人类与 AI 共存的未来社会中应如何设计 RL 模型的基础讨论。解决这一问题将使 RL 专家能够与非 RL 专家沟通，共同构建更符合我们社会需求的机器学习解决方案。我们认为，描绘 RL 模型主要状态之间转换的抽象轨迹，将有助于非 RL 专家建立智能体的心智模型。我们的初步结果表明，通过利用抽象轨迹的可视化，没有 RL 专业知识的用户也能推断出 RL 的行为模式。
引用
@article{arxiv.2402.07928,
title = {Abstracted Trajectory Visualization for Explainability in Reinforcement Learning},
author = {Yoshiki Takagi and Roderick Tabalba and Nurit Kirshenbaum and Jason Leigh},
journal= {arXiv preprint arXiv:2402.07928},
year = {2024}
}
备注
14pages, 11figures