基于梯度的可解释性方法与二值化神经网络
计算机视觉与模式识别
2021-06-24 v1 人工智能
机器学习
摘要
二值化神经网络（BNNs）有潜力彻底改变边缘计算平台上进行深度学习的方式。然而，可解释性方法在这些网络上的有效性尚未得到评估。在本文中，我们比较了几种广泛使用的基于显著图的解释技术（Gradient、SmoothGrad 和 GradCAM）在应用于二值化或全精度神经网络（FPNNs）时的表现。我们发现基本的 Gradient 方法为两类网络生成外观非常相似的图。然而，SmoothGrad 为 BNNs 生成的图明显更嘈杂。GradCAM 也生成因网络类型而异的显著图，其中一些 BNNs 具有看似无意义的解释。我们评论了这些解释差异的可能原因，并将其作为可解释性技术应在更广泛网络类型上进行测试的示例。
引用
@article{arxiv.2106.12569,
title = {Gradient-Based Interpretability Methods and Binarized Neural Networks},
author = {Amy Widdicombe and Simon J. Julier},
journal= {arXiv preprint arXiv:2106.12569},
year = {2021}
}
备注
Accepted at the ICML 2021 Workshop on Theoretic Foundation, Criticism & Application Trend of Explainable AI