形状-纹理去偏的神经网络训练
计算机视觉与模式识别
2021-04-01 v2
摘要
形状与纹理是识别物体的两个显著且互补的线索。然而，卷积神经网络常偏向纹理或形状之一，取决于训练数据集。我们的消融实验表明，此种偏置会退化模型性能。受此观察启发，我们开发了一种简单的形状-纹理去偏学习算法。为防止模型在表示学习中仅关注单一线索，我们用具有冲突形状与纹理信息的图像（例如，黑猩猩形状但柠檬纹理的图像）增广训练数据，并且最重要的是，同时提供来自形状与纹理的相应监督。实验表明，我们的方法在多个图像识别基准与对抗鲁棒性上成功提升了模型性能。例如，在 ImageNet 上训练，它帮助 ResNet-152 在 ImageNet（+1.2%）、ImageNet-A（+5.2%）、ImageNet-C（+8.3%）和 Stylized-ImageNet（+11.1%）上取得显著提升，并在抵御 ImageNet 上 FGSM 对抗攻击者时（+14.4%）表现更优。我们的方法还宣称与其他先进数据增广策略兼容，例如 Mixup 与 CutMix。代码见：https://github.com/LiYingwei/ShapeTextureDebiasedTraining。
引用
@article{arxiv.2010.05981,
title = {Shape-Texture Debiased Neural Network Training},
author = {Yingwei Li and Qihang Yu and Mingxing Tan and Jieru Mei and Peng Tang and Wei Shen and Alan Yuille and Cihang Xie},
journal= {arXiv preprint arXiv:2010.05981},
year = {2021}
}
备注
ICLR 2021. The code is available here: https://github.com/LiYingwei/ShapeTextureDebiasedTraining