后向解释方法鲁棒性的再审视
机器学习
2024-07-30 v1 人工智能
摘要
后向解释方法在可解释人工智能（XAI）中发挥着关键作用，因为它们指示深度学习模型在做出决策时认为重要的数据片段。然而，不同的后向解释方法常常提供不同的结果，这动摇了它们的准确性。为此，提出了若干评估策略来理解后向解释方法的准确性。许多评估策略提供粗粒度的评估——即通过破坏多个样本中不同数据点的平均性能下降来评估。虽然这些策略在选择在平均情况下最可靠的后向解释方法方面有效，但未能提供样本级别（也称为细粒度）的评估。也就是说，它们未测量后向解释方法的鲁棒性。我们提出一种方法和两种新指标，提供后向解释方法的细粒度评估。我们显示，鲁棒性通常与其粗粒度性能相关联。
引用
@article{arxiv.2407.19683,
title = {Revisiting the robustness of post-hoc interpretability methods},
author = {Jiawen Wei and Hugues Turbé and Gianmarco Mengaldo},
journal= {arXiv preprint arXiv:2407.19683},
year = {2024}
}