面向无真值解释方法的统一评估
机器学习
2019-11-21 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
本文提出一组评估神经网络解释方法客观性的准则，这对可解释 AI 的发展至关重要，但也带来显著挑战。核心挑战在于人们通常无法获得神经网络的真值解释。为此，我们设计了四个指标以在无真值解释的情况下评估解释结果。我们的指标可广泛应用于九种解释神经网络的基准方法，从而为解释方法提供新的见解。
引用
@article{arxiv.1911.09017,
title = {Towards a Unified Evaluation of Explanation Methods without Ground Truth},
author = {Hao Zhang and Jiayi Chen and Haotian Xue and Quanshi Zhang},
journal= {arXiv preprint arXiv:1911.09017},
year = {2019}
}