利用特权信息训练分组正交神经网络
计算机视觉与模式识别
2017-08-21 v2
摘要
学习丰富多样的表示对深度卷积神经网络(CNNs)的性能至关重要。本文考虑如何使用特权信息来促进单一CNN模型的内在多样性，使模型能学习更好的表示并提供更强的泛化能力。为此，我们提出一种新颖的分组正交卷积神经网络(GoCNN)，通过利用提供的特权信息学习每层内解纠缠的表示，并有效增强表示多样性。我们以图像分类为例，其中图像分割标注在训练过程中用作特权信息。在两个基准数据集——ImageNet和PASCAL VOC——上的实验清楚地证明了我们提出的GoCNN模型的强泛化能力。在ImageNet数据集上，GoCNN将最先进的ResNet-152模型的性能绝对提升了1.2%，而仅使用了10%训练图像的特权信息，证实了GoCNN在利用可用特权知识训练更好CNNs方面的有效性。
引用
@article{arxiv.1701.06772,
title = {Training Group Orthogonal Neural Networks with Privileged Information},
author = {Yunpeng Chen and Xiaojie Jin and Jiashi Feng and Shuicheng Yan},
journal= {arXiv preprint arXiv:1701.06772},
year = {2017}
}
备注
Proceedings of the IJCAI-17