一种提升分类网络 (Grad)CAM 可解释性与可说明性的轻量级方法
计算机视觉与模式识别
2020-09-29 v1 机器学习
摘要
我们考虑一种轻量级方法,可改善局部化分类网络的可说明性。该方法通过在训练过程中修改训练损失来利用 (Grad)CAM 图,且不需要额外的结构元素。结果表明,以若干指标衡量的 (Grad)CAM 可解释性可由此得到提升。由于该方法应适用于嵌入式系统与标准深层架构,它主要利用训练过程中的二阶导数,且不需要额外的模型层。
引用
@article{arxiv.2009.12546,
title = {A light-weight method to foster the (Grad)CAM interpretability and explainability of classification networks},
author = {Alfred Schöttl},
journal= {arXiv preprint arXiv:2009.12546},
year = {2020}
}
备注
2020 10th International Conference on Advanced Computer Information Technologies