神经网络解释方法的真实性能如何？一项定量基准测试
机器学习
2023-04-06 v1
摘要
显著性图（SMs）已被广泛用于通过高亮模型认为相关的特征来解释深度学习模型的决策。它们被用于高度非线性的问题，其中线性特征选择（FS）方法无法高亮相关的解释变量。然而，基于梯度的特征归因方法（如SM）的可靠性大多仅经过定性（视觉）评估，目前缺乏定量基准，部分原因是图像数据缺乏明确的真值。考虑到这些方法视觉评估中引入的空想性错视偏差，本文提出了一种用于神经网络（NNs）解释方法的合成定量基准。为此，我们构建了具有非线性可分类别和递增数量干扰（随机）特征的合成数据集，以说明高维设置下FS的挑战。我们还将这些方法与mRMR或随机森林等传统方法进行比较。我们的结果表明，我们简单的合成数据集足以挑战大多数被测方法。TreeShap、mRMR和LassoNet是表现最好的FS方法。我们还表明，在量化稀释于大量不相关噪声变量中的少数非线性纠缠预测特征的相关性时，基于神经网络的特征选择和解释方法仍远不可靠。
引用
@article{arxiv.2304.02383,
title = {How good Neural Networks interpretation methods really are? A quantitative benchmark},
author = {Antoine Passemiers and Pietro Folco and Daniele Raimondi and Giovanni Birolo and Yves Moreau and Piero Fariselli},
journal= {arXiv preprint arXiv:2304.02383},
year = {2023}
}