以人为中心的 XAI 方法评估
人工智能
2024-02-15 v2 计算机视觉与模式识别
机器学习
摘要
在不断发展的人工智能领域中，一个关键挑战是解读深度学习中所谓“黑箱”的决策过程。近年来，涌现出大量致力于解释不同任务中决策的方法。特别是在图像分类等任务中，这些方法通常识别并突出最影响分类器预测的 pivotal 像素。有趣的是，这种方法与人类行为相呼应：当被要求解释我们对图像分类的理由时，我们常指向最显著的特征或方面。利用这一相似性，我们的研究开展了一项以用户为中心的研究。我们试图客观衡量三种主流解释方法的可解释性：(1) 原型部件网络 (Prototypical Part Network)，(2) 遮挡法 (Occlusion)，以及 (3) 逐层相关性传播 (Layer-wise Relevance Propagation)。有趣的是，我们的结果强调，尽管这些方法突出的区域可能差异很大，但它们都为人类提供了几乎等同的理解深度。这使用户能够高效辨别与分类图像，强化了这些方法在提升 AI 透明度方面的价值。
引用
@article{arxiv.2310.07534,
title = {Human-Centered Evaluation of XAI Methods},
author = {Karam Dawoud and Wojciech Samek and Peter Eisert and Sebastian Lapuschkin and Sebastian Bosse},
journal= {arXiv preprint arXiv:2310.07534},
year = {2024}
}