显著性方法的新定义与评估：保持内在性、完备性与可靠性
机器学习
2022-11-08 v1 机器学习
摘要
显著性方法计算热图，以突出输入中对深度网络所赋标签最为{\em 重要}的部分。显著性方法的评估将该热图转换为新的{\em 掩码输入}：保留原始输入中排名最高的 个像素，其余替换为\textquotedblleft 无信息\textquotedblright 像素，并检查网络输出是否基本不变。这通常被视为对输出的{\em 解释}，但本文强调此种因果推断可能存疑的理由。受{\em 完备性与可靠性}的逻辑概念启发，本文指出上述评估类型聚焦于解释的完备性而忽略可靠性。引入新的评估度量以捕捉两种概念，同时保持在{\em 内在}框架内——即使用数据集与网络，但不使用单独训练的网络、人工评估等。描述一种简单显著性方法，在评估中与先前方法持平或更优。实验亦基于可靠性，为 TV 正则化与上采样等流行启发式技巧提供新的内在依据。
引用
@article{arxiv.2211.02912,
title = {New Definitions and Evaluations for Saliency Methods: Staying Intrinsic, Complete and Sound},
author = {Arushi Gupta and Nikunj Saunshi and Dingli Yu and Kaifeng Lyu and Sanjeev Arora},
journal= {arXiv preprint arXiv:2211.02912},
year = {2022}
}
备注
NeurIPS 2022 (Oral)