路径方法中路径选择对清晰归因的重要性
计算机视觉与模式识别
2024-01-22 v1 机器学习
摘要
严谨性与清晰性对于 DNN 解释以产生人类信任均至关重要。路径方法常被用于生成满足三条公理的严谨归因。然而，由于路径选择的不同，归因的含义仍存在歧义。为解决这一歧义，我们引入\textbf{集中原则}，将高归因集中分配给不可或缺的特征，从而赋予美观性与稀疏性。随后，我们提出\textbf{SAMP}，一种与模型无关的解释器，可从预定义的操作路径集合中高效搜索近优路径。此外，我们提出无穷小约束（IC）与动量策略（MS）以提升严谨性与最优性。可视化结果表明，SAMP 能够通过精确定位显著图像像素来准确揭示 DNN。我们还进行了定量实验，观察到我们的方法显著优于对比方法。代码：https://github.com/zbr17/SAMP。
引用
@article{arxiv.2401.10442,
title = {Path Choice Matters for Clear Attribution in Path Methods},
author = {Borui Zhang and Wenzhao Zheng and Jie Zhou and Jiwen Lu},
journal= {arXiv preprint arXiv:2401.10442},
year = {2024}
}
备注
ICLR 2024 accepted