任务无关的的可解释 AI 是神话吗？
人工智能
2023-07-17 v1 机器学习
摘要
我们的工作充当统一当代可解释 AI（XAI）挑战的框架。我们表明，尽管 XAI 方法为机器学习模型提供了补充性的、潜在有用的输出，研究者和决策者应留意其概念与技术局限，这些局限常导致这些方法自身成为黑箱。我们考察了跨越图像、文本和图数据的三条 XAI 研究路径，涵盖显著性、注意力和图类型解释器。尽管所述案例的语境与时期各异，同样的持续性障碍浮现出来，凸显了该领域亟需概念性突破，以应对 XAI 方法与应用任务间兼容性这一挑战。
引用
@article{arxiv.2307.06963,
title = {Is Task-Agnostic Explainable AI a Myth?},
author = {Alicja Chaszczewicz},
journal= {arXiv preprint arXiv:2307.06963},
year = {2023}
}
备注
Accepted to 2023 ICML Workshop on Interpretable ML in Healthcare, Honolulu, Hawaii, USA (oral)