面向变分自编码器的视觉解释方法探究
计算机视觉与模式识别
2020-04-15 v7 机器学习
摘要
卷积神经网络（CNN）模型可解释性方面的近期进展，在可视化和理解模型预测上取得了令人瞩目的成果。尤其是，基于梯度的视觉注意力方法推动了大量近期工作，将视觉注意力图用作视觉解释的手段。然而，一个关键问题在于，这些方法是为分类与归类别任务设计的，将其扩展至解释生成模型（例如变分自编码器（VAE））并非易事。在本工作中，我们朝弥合这一关键鸿沟迈出一步，提出首个通过基于梯度的注意力来视觉解释 VAE 的技术。我们给出从所学隐空间生成视觉注意力的方法，并证明此类注意力解释的作用不止于解释 VAE 预测。我们展示这些注意力图如何用于图像中的异常定位，在 MVTec-AD 数据集上取得了最先进的性能。我们还展示如何将其注入模型训练，帮助引导 VAE 学习改进的隐空间解耦，并在 Dsprites 数据集上予以证明。
引用
@article{arxiv.1911.07389,
title = {Towards Visually Explaining Variational Autoencoders},
author = {Wenqian Liu and Runze Li and Meng Zheng and Srikrishna Karanam and Ziyan Wu and Bir Bhanu and Richard J. Radke and Octavia Camps},
journal= {arXiv preprint arXiv:1911.07389},
year = {2020}
}
备注
10 pages, 9 figures, 2 tables, CVPR 2020