卷积神经网络中神经编码的普适性

我们探讨了在图像分类任务中训练的卷积神经网络中神经编码的普适性。我们发展了一种直接比较学习权重而非其表示的方法。该方法基于空间维度和通道维度的分解，并衡量对齐权重协方差的相似性。我们表明，对于 VGG 类网络的多层，学习得到的特征向量在不同的自然图像数据集之间看似普适。我们的结果表明，自然图像存在一种通用神经编码。这在更基本的层面解释了迁移学习的成功。我们的工作表明，与其最大化神经网络的性能，不如尝试最大化所学编码的普适性，以构建一个原则性的基础模型。