解释型人工智能论文中，不到 1% 的论文通过人类验证解释性
人机交互
2025-03-24 v1 人工智能
摘要
本late-breaking work 对解释型人工智能（XAI）文献进行大规模分析，以评估人类解释性的主张。我们与专业图书馆员合作，识别出包含解释性和可解释性关键词的 18,254 篇论文。其中，我们发现仅有 253 篇论文包含表明人类参与评估 XAI 技术的术语，且仅有 128 篇进行了某种形式的人类研究。换言之，不到 1% 的 XAI 论文（0.7%）在与 XAI 文献更广泛背景下提供了人类解释性的实证证据。我们的发现凸显了关于人类解释性主张与证据基础验证之间严重的鸿沟，对 XAI 研究的严谨性提出了质疑。我们呼吁在 XAI 研究中 increased emphasis 人类评估，并提供我们的文献检索方法，以实现可重复性并进一步调查这一广泛存在的议题。
引用
@article{arxiv.2503.16507,
title = {Fewer Than 1% of Explainable AI Papers Validate Explainability with Humans},
author = {Ashley Suh and Isabelle Hurley and Nora Smith and Ho Chit Siu},
journal= {arXiv preprint arXiv:2503.16507},
year = {2025}
}
备注
Extended Abstracts of the CHI Conference on Human Factors in Computing Systems (CHI EA '25)