iGOS++:基于双边扰动的集成梯度优化显著性方法
计算机视觉与模式识别
2021-05-04 v2 机器学习
图像与视频处理
摘要
深度网络的黑盒特性使得解释其为何做出特定预测极为困难。显著性图是缓解该问题最广泛使用的局部解释工具之一。生成显著性图的主要方法之一是在输入维度上优化掩码,使网络输出受掩码影响最大。然而,先前工作仅通过从输入中移除证据来研究此种影响。本文提出 iGOS++,一种通过移除或仅保留一小部分输入来优化以改变黑盒系统输出的显著性图生成框架。此外,我们提议在优化中加入双边全变分项,从而在高分辨率及细长物体部件下改善显著性图的连续性。将 iGOS++ 与最先进显著性图方法比较的评估结果显示,在定位可直接被人理解的显著区域方面有显著改进。我们将 iGOS++ 用于从 X 射线图像分类 COVID-19 病例的任务,发现 CNN 网络在进行分类时有时过拟合到 X 射线图像上打印的字符。通过数据清洗修复该问题显著提升了分类器的精确率与召回率。
引用
@article{arxiv.2012.15783,
title = {iGOS++: Integrated Gradient Optimized Saliency by Bilateral Perturbations},
author = {Saeed Khorram and Tyler Lawson and Fuxin Li},
journal= {arXiv preprint arXiv:2012.15783},
year = {2021}
}