面向可解释目标识别的WoE方法：一种以人类为中心的路径
人工智能
2024-09-19 v1
摘要
目标识别（GR）涉及从观察序列中推断出智能体的未观察目标。这是一个具有多样化应用场景的AI关键问题。传统上，GR通过“寻找最佳解释”或归纳法来解决，生成关于智能体目标的最可能解释假设。另一些方法通过确保智能体行为符合观察者的期望或使决策背后的推理更透明来增强可解释性。在本工作中，我们面临的一个不同挑战是以人类可理解的方式解释GR过程。我们提出并评估了一个面向目标识别（GR）智能体的可解释模型，基于理论框架和人类行为解释背后的认知过程。基于两个人机研究的见解，我们提出了人类中心的GR解释概念框架。使用该框架，我们开发了可解释目标识别（XGR）模型，生成对“为什么”和“为什么不是”问题的解释。我们在八个GR基准数据集上进行了计算评估，并通过三个用户研究进行了评估。第一个研究评估了在Sokoban游戏领域内生成类人解释的效率，第二个研究检验了同一领域中感知可解释性，第三个研究评估了该模型在帮助决策方面的效果，具体是在非法捕鱼检测中。结果表明，XGR模型显著提升了用户对理解、信任和决策能力，凸显了其改进人机协作的潜力。
引用
@article{arxiv.2409.11675,
title = {Towards Explainable Goal Recognition Using Weight of Evidence (WoE): A Human-Centered Approach},
author = {Abeer Alshehri and Amal Abdulrahman and Hajar Alamri and Tim Miller and Mor Vered},
journal= {arXiv preprint arXiv:2409.11675},
year = {2024}
}