理解深度神经网络中单个单元的作用
计算机视觉与模式识别
2020-09-15 v2 机器学习
神经与进化计算
摘要
深度神经网络擅长在大型数据集上寻找解决复杂任务的分层表示。我们人类如何能够理解这些学习到的表示？在这项工作中，我们提出网络剖析（network dissection），一种系统性识别图像分类与图像生成网络中单个隐藏单元语义的分析框架。首先，我们分析了一个在场景分类上训练的卷积神经网络（CNN），并发现了匹配多种物体概念的单位。我们找到证据表明，该网络已学习到许多在场景类别分类中起关键作用的物体类别。其次，我们使用类似的分析方法分析一个训练用于生成场景的生成对抗网络（GAN）模型。通过分析激活或停用小单元集时所发生的变化，我们发现可在适应上下文的同时从输出场景中添加或移除物体。最后，我们将分析框架应用于理解对抗攻击与语义图像编辑。
引用
@article{arxiv.2009.05041,
title = {Understanding the Role of Individual Units in a Deep Neural Network},
author = {David Bau and Jun-Yan Zhu and Hendrik Strobelt and Agata Lapedriza and Bolei Zhou and Antonio Torralba},
journal= {arXiv preprint arXiv:2009.05041},
year = {2020}
}
备注
Proceedings of the National Academy of Sciences 2020. Code at https://github.com/davidbau/dissect/ and website at https://dissect.csail.mit.edu/