面向卷积神经网络的改进输入掩码方法
计算机视觉与模式识别
2023-10-31 v3 人工智能
摘要
从机器学习模型的输入中移除特征的能力对于理解和解释模型预测非常重要。然而，这对于视觉模型而言并非易事，因为掩码掉输入图像的部分通常会引起较大的分布偏移。这是因为用于掩码的基线颜色（通常为灰色或黑色）是分布外的。此外，掩码本身的形状可能包含模型可借以进行预测的不期望信号。近来，在缓解视觉Transformer图像掩码中的此问题（称为缺失偏置）方面已取得一些进展。在本工作中，我们提出了一种用于CNN的新掩码方法，称为层掩码，其在很大程度上降低了由掩码引起的缺失偏置。直观上，层掩码将掩码应用于中间激活图，使得模型仅处理未掩码的输入。我们展示了我们的方法（i）能够消除或最小化掩码形状或颜色对模型输出的影响，并且（ii）对于基于输入扰动的如LIME等可解释性技术，优于用黑色或灰色替换被掩码区域。因此，层掩码比其他掩码策略受缺失偏置的影响小得多。我们还展示了掩码形状如何可能泄露关于类别的信息，从而影响从输入掩码得出的模型对类别相关特征依赖性的估计。此外，我们讨论了数据增强技术在处理此问题中的作用，并认为它们不足以阻止模型对掩码形状的依赖。本项目的代码公开于 https://github.com/SriramB-98/layer_masking
引用
@article{arxiv.2211.14646,
title = {Towards Improved Input Masking for Convolutional Neural Networks},
author = {Sriram Balasubramanian and Soheil Feizi},
journal= {arXiv preprint arXiv:2211.14646},
year = {2023}
}
备注
29 pages, 19 figures. Accepted at ICCV 2023