并非所有解释都一样：探究当前 XAI 评估的陷阱
人机交互
2025-11-07 v1 人工智能
摘要
可解释人工智能（XAI）旨在通过为人类用户提供模型解释来增强现代 AI 模型的透明度。研究人员已尝试多种方法来评估这些 XAI 模型的质量，例如用户研究或诸如“忠实度”等提出的客观指标。然而，这些当前的 XAI 评估技术或多或少较为随意且不具可推广性。因此，该领域大多数研究仅进行简单的用户调查来分析没有解释与由其提出的解决方案生成的解释之间的差异。我们认为这并不提供充分的证据表明生成的解释质量良好，因为我们认为任何形式的解释在大多数指标上与没有解释相比都会显著提升。因此，本研究旨在突出这一陷阱：大多数解释，无论其质量或正确性如何，都会增加用户满意度。我们还提出应强调可操作性解释。我们使用一个代理助手来教授象棋概念给用户，验证了两项主张的有效性。本章节的结果将作为该领域 XAI 更全面评估技术的行动号召，以确保未来研究能证明解释质量，超越用户满意度。此外，我们还present了在哪些情境下才是placebic 或可操作性解释最有用。
引用
@article{arxiv.2511.03730,
title = {Not All Explanations are Created Equal: Investigating the Pitfalls of Current XAI Evaluation},
author = {Joe Shymanski and Jacob Brue and Sandip Sen},
journal= {arXiv preprint arXiv:2511.03730},
year = {2025}
}
备注
The authors' accepted manuscript of Chapter 9 in Bi-directionality in Human-AI Collaborative Systems (Springer, 2025). The final published version is available at https://doi.org/10.1016/B978-0-44-340553-2.00015-0. 27 pages, 12 figures, 3 tables