NoiseGrad：通过向模型权重引入随机性增强解释性

为揭示深度神经网络等黑盒学习机器的决策过程，人们已做出诸多努力，产生了有用的局部与全局解释方法。对于局部解释，随机性已知有所帮助：一种称为SmoothGrad的简单方法通过向输入空间添加噪声并平均带噪输入的解释，改善了基于梯度的归因的视觉质量。本文中我们扩展该思想并提出NoiseGrad，其增强了局部与全局解释方法。具体而言，NoiseGrad在权重参数空间中引入随机性，从而扰动决策边界。由于输入扰动与决策边界扰动之间的对偶关系，NoiseGrad有望如SmoothGrad般增强局部解释。我们以若干评价标准对NoiseGrad及其与SmoothGrad的融合——FusionGrad——进行定性与定量评估，并显示我们的新方法显著优于基线方法。NoiseGrad与FusionGrad均为方法无关且如SmoothGrad般易用，采用简单启发式选择超参数设置而无需微调。