利用反事实路径生成 POMDP 策略的对比解释
人工智能
2024-04-01 v1 人机交互
摘要
随着人类越来越依赖自主系统，确保此类系统的透明性对于其持续被采用至关重要。可解释人工智能（XAI）旨在通过提供对智能体行为的解释来减少困惑并培养对系统的信任。部分可观测马尔可夫决策过程（POMDP）提供了一个灵活的框架，能够对转移和状态不确定性进行推理，同时也易于进行解释。本研究探讨了使用用户提供的反事实来生成 POMDP 策略的对比解释。特征期望被用作对比这些策略性能的手段。我们在搜救（SAR）场景中展示了我们的方法。我们通过两个案例研究分析并讨论了相关的挑战。
引用
@article{arxiv.2403.19760,
title = {Leveraging Counterfactual Paths for Contrastive Explanations of POMDP Policies},
author = {Benjamin Kraske and Zakariya Laouar and Zachary Sunberg},
journal= {arXiv preprint arXiv:2403.19760},
year = {2024}
}
备注
5 pages, 1 figure