用于可解释AI的高效显著图
计算机视觉与模式识别
2020-03-11 v2 机器学习
性能
机器人学
摘要
我们描述了一种用于深度卷积神经网络（CNN）的可解释AI显著图方法，其比流行的细分辨率梯度方法高效得多，且在精度上定量地相似或更好。我们的技术通过测量每个网络尺度末端的信息，再将其组合为单一显著图来工作。我们描述了如何利用显著图顺序等价性使显著度量更高效。我们通过使用信息分层有序可视化来可视化单个尺度/层的贡献。这提供了网络内尺度信息贡献的有趣比较，这是其他显著图方法所未提供的。使用我们的方法替代Guided Backprop时，诸如Grad-CAM与Grad-CAM++等粗分辨率类激活方法似乎能在不牺牲速度的情况下产生明显更优的结果。这将使细分辨率显著方法在资源受限平台（如机器人、手机、低成本工业设备、天文学与卫星图像）上可行。
引用
@article{arxiv.1911.11293,
title = {Efficient Saliency Maps for Explainable AI},
author = {T. Nathan Mundhenk and Barry Y. Chen and Gerald Friedland},
journal= {arXiv preprint arXiv:1911.11293},
year = {2020}
}
备注
In submission to ECCV 2020