多面特征可视化：揭示深度神经网络中每个神经元学习到的不同类型特征

我们可以通过识别每个神经元已学会检测的特征来更好地理解深度神经网络。为此，研究者创建了包括激活最大化在内的深度可视化技术，其合成生成最大化激活每个神经元的输入（例如图像）。当前技术的一个局限是它们假设每个神经元仅检测一种类型的特征，但我们知道神经元可以是多面的，即它们对许多不同类型的特征都会响应：例如，一个杂货店类别神经元必须对成排农产品或店面激活。先前的激活最大化技术构建图像时不考虑神经元的多个不同方面，造成了颜色、物体部分、尺度、方向等的不当混合。在此，我们引入一种算法，通过生成激活神经元的每类图像的合成可视化，显式地揭示每个神经元的多个方面。我们还引入了正则化方法，其在激活最大化所获得图像的可解释性方面产生了最先进的结果。通过分别合成神经元响应的每类图像，可视化具有更适当的颜色和连贯的全局结构。因此，多面特征可视化提供了对每个神经元角色更清晰和更全面的描述。