Net2Vec：量化并解释深度神经网络中滤波器对概念的编码方式
计算机视觉与模式识别
2018-03-30 v2 人工智能
机器学习
摘要
为了理解深度网络所捕获的中间表示的含义，近期论文试图将特定语义概念与单个神经网络滤波器响应相关联，其中常发现有趣的相关性，主要在聚焦于极端滤波器响应上。本文中，我们表明该方法会偏袒易于解释的、未必能代表表示平均行为的情形。一个更真实但更难研究的假设是语义表示是分布式的，因而滤波器必须联合研究。为研究该想法同时实现多滤波器响应的系统性可视化与量化，我们引入 Net2Vec 框架，其中语义概念基于相应滤波器响应被映射为向量嵌入。通过研究此类嵌入，我们能够表明：1. 在大多数情况下，多个滤波器被需要来编码一个概念；2. 滤波器常非概念专用并有助于编码多个概念；3. 相较于单滤波器激活，滤波器嵌入能更好地刻画表示的含义及其与其他概念的关系。
引用
@article{arxiv.1801.03454,
title = {Net2Vec: Quantifying and Explaining how Concepts are Encoded by Filters in Deep Neural Networks},
author = {Ruth Fong and Andrea Vedaldi},
journal= {arXiv preprint arXiv:1801.03454},
year = {2018}
}
备注
Camera-Ready for CVPR18; supplementary materials: http://ruthcfong.github.io/files/net2vec_supps.pdf