基于遗忘的神经解释

梯度-based 解释通常需要一个比较锚点来避免计算特征重要性时的饱和。我们表明，当前基于静态函数（常数映射、平均或模糊化）定义的基线会注入有害的颜色、纹理或频率假设，导致偏离模型行为，从而导致不规则梯度的积累，产生偏置、脆弱且可操控的归因图。我们提出的 UNI 方法通过对输入施加最陡上升方向的遗忘来计算一个（不）可学习的、无偏且自适应的基线。我们的 метод发现可靠的基线并成功擦除显著特征，从而在局部平滑高曲率决策边界。我们的分析表明，遗忘是生成可靠、高效且稳健解释的有前景的途径。