利用渐进外推增强深度神经网络显著性可视化
计算机视觉与模式识别
2021-07-08 v3 人工智能
神经与进化计算
摘要
本文提出了一种针对类激活映射方法（如梯度加权类激活映射或激励反向传播）的增强技术，以呈现基于卷积神经网络模型的决策视觉解释。所提出的称为渐进外推（Gradual Extrapolation）的思路，可通过锐化输出补充任何生成热力图的方法。与产生突出图像中重要预测区域的粗粒度定位图不同，所提方法输出对模型输出贡献最大的具体形状。因此，该方法提高了显著性图的准确性。通过在深层获得的粗略图相对于各层激活逐步传播至所有前层，实现了上述效果。在选定图像集的验证测试中，评估了方法的忠实性、可解释性和适用性。所提技术以较低的额外计算成本显著改善了神经网络注意力的定位检测。此外，该方法适用于多种深度神经网络模型。方法代码见 https://github.com/szandala/gradual-extrapolation
引用
@article{arxiv.2104.04945,
title = {Enhancing Deep Neural Network Saliency Visualizations with Gradual Extrapolation},
author = {Tomasz Szandala},
journal= {arXiv preprint arXiv:2104.04945},
year = {2021}
}
备注
Published in IEEE Access: https://ieeexplore.ieee.org/document/9468713