深度神经网络可解释性方法的基准测试
机器学习
2019-11-06 v3 人工智能
机器学习
摘要
我们提出了一种衡量深度神经网络中特征重要性估计近似准确性的经验度量。我们在多个大规模图像分类数据集上的结果表明，许多流行的可解释性方法所产生的特征重要性估计并不优于随机指定特征重要性。仅有某些基于集成的方法——VarGrad 与 SmoothGrad-Squared——优于此种随机重要性分配。集成的方式仍然至关重要，我们表明某些方法并不优于其底层方法，却承担着高得多的计算负担。
引用
@article{arxiv.1806.10758,
title = {A Benchmark for Interpretability Methods in Deep Neural Networks},
author = {Sara Hooker and Dumitru Erhan and Pieter-Jan Kindermans and Been Kim},
journal= {arXiv preprint arXiv:1806.10758},
year = {2019}
}
备注
In NeurIPS 2019