为何解释会失败？关于可解释人工智能中故障的类型学与讨论
机器学习
2025-10-17 v2 人工智能
人机交互
摘要
随着机器学习模型实现前所未有的性能提升，可解释人工智能 (XAI) 领域致力于通过呈现易于理解的解释来使这些模型变得可理解。然而，一些现有的 XAI 方法未能达到预期：文献中报告了多个问题，通常指向技术限制或用户误解。在本文中，我们认为，由 XAI 中多种故障的复杂重叠导致最终的伤害，而现有的针对性研究未能捕捉这一点。因此，本文主张一种整体视角，系统性地调查当前 XAI 方法的局限性及其对解释解释的影响。% 通过区分系统特定故障与用户特定故障，我们提出一种类型学框架，以揭示解释故障的细致复杂性。借助这一类型学，我们讨论了一些研究方向，以帮助实践者更好地理解 XAI 系统的局限性并提升 ML 解释的质量。
引用
@article{arxiv.2405.13474,
title = {Why do explanations fail? A typology and discussion on failures in XAI},
author = {Clara Bove and Thibault Laugel and Marie-Jeanne Lesot and Charles Tijus and Marcin Detyniecki},
journal= {arXiv preprint arXiv:2405.13474},
year = {2025}
}