通过输入特定网络剪枝改进特征归因
计算机视觉与模式识别
2020-03-10 v2
摘要
将神经网络的输出归因于给定输入元素的贡献，是揭示神经网络黑盒性质的一种方式。由于当前网络架构的复杂性，基于梯度的现有归因方法提供的结果非常嘈杂或粗糙。我们提出针对给定单个输入剪枝神经网络，仅保留对预测贡献大的神经元。我们展示通过输入特定剪枝，网络梯度从反映局部（嘈杂）重要性信息转变为全局重要性。我们提出的方法高效且生成细粒度归因图。我们进一步提供了剪枝方法的理论依据，将其与扰动相关联，并通过一种新颖的实验设置进行验证。我们的方法通过多个基准评估：合理性检验、像素扰动和 Remove-and-Retrain (ROAR)。这些基准从不同角度评估该方法，且我们的方法在所有评估中均优于其他方法。
引用
@article{arxiv.1911.11081,
title = {Improving Feature Attribution through Input-specific Network Pruning},
author = {Ashkan Khakzar and Soroosh Baselizadeh and Saurabh Khanduja and Christian Rupprecht and Seong Tae Kim and Nassir Navab},
journal= {arXiv preprint arXiv:1911.11081},
year = {2020}
}