Neuron Shapley：发现 responsible 神经元

我们提出 Neuron Shapley 作为一种新框架，用于量化单个神经元对深度网络预测与性能的贡献。通过考虑神经元间的交互，与基于激活模式的常见方法相比，Neuron Shapley 在识别重要滤波器上更为有效。有趣的是，仅移除 Inception-v3 在 ImageNet 上具有最高 Shapley 分数的 30 个滤波器，就有效摧毁了其预测精度。对这些少数关键滤波器的可视化提供了网络如何运作的洞见。Neuron Shapley 是一个灵活的框架，可应用于识别许多任务中的 responsible 神经元。我们展示了额外应用：识别人脸识别中导致偏倚预测的滤波器，以及易受对抗攻击的滤波器。移除这些滤波器是修复模型的快捷方式。支撑所有这些应用的是我们开发的一种新多臂赌博机算法，用于高效估计 Neuron Shapley 值。