从问题到洞见：探索 Stack Overflow 上的 XAI 挑战
软件工程
2025-04-21 v2 人工智能
摘要
解释性不足是限制 AI 模型实际应用的主要障碍。虽然已广泛应用于解释这些模型性能的解释性 AI (XAI) 技术（如 SHAP、LIME），但用户往往在实际场景中面临这些技术的挑战，因而在技术问答论坛如 Stack Overflow 上提交问题以解决这些挑战。我们进行了一项探索性研究，以揭示这些挑战、其严重程度以及可使 XAI 技术更具可访问性和易用性的特征。本研究的贡献包括四方面：首先，我们手动分析了 663 个讨论 XAI 技术相关挑战的 Stack Overflow 问题。我们的深入调查产生了七类挑战（例如不一致问题）的目录。随后，我们分析了这些挑战的流行程度，发现模型集成和不一致问题是最常见的挑战。其次，我们尝试估计每种 XAI 挑战的严重程度，通过确定挑战类型与答案元数据（例如是否包含已采纳答案）之间的相关性。我们的分析表明，模型集成问题是最严重的挑战。第三，我们尝试基于从业人员有效使用 XAI 技术的能力来感知这些挑战的严重程度。从业人员的反馈表明，不一致问题最严重地影响了 XAI 技术的使用。第四，我们寻求从业人员对改进或功能的共识，这些改进或功能可以使 XAI 技术更具可访问性和用户友好性。大多数人建议在解释一致性和简化集成方面进行改进。我们的研究发现可能（a）帮助提高 XAI 的可访问性和可用性，（b）作为激发未来研究的初始基准。
引用
@article{arxiv.2504.03085,
title = {From Questions to Insights: Exploring XAI Challenges Reported on Stack Overflow Questions},
author = {Saumendu Roy and Saikat Mondal and Banani Roy and Chanchal Roy},
journal= {arXiv preprint arXiv:2504.03085},
year = {2025}
}
备注
Accepted in 29th International Conference on Evaluation and Assessment in Software Engineering (EASE 2025)