卷积神经网络中纹理偏置的起源与普遍性
计算机视觉与模式识别
2020-11-05 v3 机器学习
神经元与认知
摘要
近期研究表明，与 humans 不同，ImageNet 上训练的 CNN 倾向于依据纹理而非形状对图像进行分类。这种偏置有多普遍，又从何而来？我们发现，当在形状与纹理冲突的图像数据集上训练时，CNN 学习按形状分类至少与按纹理分类一样容易。那么，是什么因素导致了在 ImageNet 上训练的 CNN 中的纹理偏置？不同的无监督训练目标和不同架构对纹理偏置程度有微小但显著且大体独立的影响。然而，所有目标和架构仍导致模型在大多数情况下做出基于纹理的分类决策，即便形状信息可从它们的隐藏表示中解码。数据增强的影响则大得多。通过在训练时采用较不激进的随机裁剪并应用简单的自然式增强（颜色失真、噪声和模糊），我们训练出的模型在大多数情况下依据形状对模糊图像进行分类，并在分布外测试集上优于基线。我们的结果表明，人类与 ImageNet 训练的 CNN 处理图像方式的明显差异，可能主要并非源于其内部运作的差异，而是源于其所见数据的差异。
引用
@article{arxiv.1911.09071,
title = {The Origins and Prevalence of Texture Bias in Convolutional Neural Networks},
author = {Katherine L. Hermann and Ting Chen and Simon Kornblith},
journal= {arXiv preprint arXiv:1911.09071},
year = {2020}
}
备注
NeurIPS'2020