沉浸式可解释性：通过 XAI 语义场景投影在虚拟现实中可视化机器人导航决策
机器人学
2025-10-21 v2
摘要
端到端机器人策略通过强化学习 (RL) 训练的神经网络实现了高性能。然而，其黑箱本质和抽象推理为人机交互 (HRI) 带来挑战，因为人类可能难以理解和预测机器人的导航决策，从而阻碍信任的建立。我们提出了一个虚拟现实 (VR) 界面，用于可视化可解释人工智能 (XAI) 输出和机器人的激光雷达感知，以支持对基于 RL 的导航行为的直观解释。通过在对象上根据其归因分数进行视觉突出显示，该界面将抽象的策略解释 grounding在场景语境中。这一 XAI 可视化桥接了晦涩数值 XAI 归因分数与人类中心语义层次解释之间的差距。通过 24 名参与者的 within-subjects 研究评估了该界面对四种可视化条件（组合 XAI 和激光雷达）的有效性。参与者根据其对机器人最重要的重要性对场景对象进行排序，随后进行问卷调查以评估主观理解和可预测性。结果表明，归因的语义投影显著增强了非专家用户的客观理解和主观意识，能够更好地理解机器人行为。此外，激光雷达可视化进一步提高了感知可预测性，凸显了集成 XAI 和传感器以实现透明可信 HRI 的价值。
引用
@article{arxiv.2504.00682,
title = {Immersive Explainability: Visualizing Robot Navigation Decisions through XAI Semantic Scene Projections in Virtual Reality},
author = {Jorge de Heuvel and Sebastian Müller and Marlene Wessels and Aftab Akhtar and Christian Bauckhage and Maren Bennewitz},
journal= {arXiv preprint arXiv:2504.00682},
year = {2025}
}