面向深度学习驱动显著区域的 Valid P-Value
机器学习
2023-01-09 v1 计算机视觉与模式识别
机器学习
摘要
已有多种显著图方法被提出，用于解释和说明深度学习模型的预测。显著图使我们能够解释输入信号的哪些部分对预测结果有较强影响。然而，由于显著图是通过深度学习模型中的复杂计算获得的，通常难以知晓显著图本身的可靠性。在本研究中，我们提出一种以 p 值形式量化显著区域可靠性的方法。我们的思路是将显著区域视为由训练好的深度学习模型所选择的假设，并采用选择性推断框架。所提方法可证明地控制显著区域假阳性检测的概率。我们通过合成与真实数据集中的数值例子证明了所提方法的有效性。此外，我们开发了一个基于 Keras 的框架，可对广泛一类 CNN 进行所提选择性推断而无需额外实现成本。
引用
@article{arxiv.2301.02437,
title = {Valid P-Value for Deep Learning-Driven Salient Region},
author = {Daiki Miwa and Vo Nguyen Le Duy and Ichiro Takeuchi},
journal= {arXiv preprint arXiv:2301.02437},
year = {2023}
}