通过随机化类别表示向量重新设计分类层

神经图像分类模型通常由两个组件构成。其一是图像编码器，负责将给定原始图像编码为代表性向量。其二是分类组件，常通过将代表性向量投影到目标类别向量上来实现。目标类别向量与模型其余参数一同被估计，以最小化损失函数。本文中，我们分析了分类层的简单设计选择如何影响学习动态。我们表明，标准交叉熵训练隐式捕获了不同类别之间的视觉相似性，这可能降低准确率甚至阻止某些模型收敛。我们提出随机绘制类别向量并在训练期间将其固定，从而消除这些向量中编码的视觉相似性。我们分析了保持类别向量固定的效果，表明其可提升类间可分性、类内紧致性以及整体模型准确率，同时保持对图像损坏的鲁棒性与所学概念的泛化能力。