利用特征变换的自监督进一步提升监督学习

自监督学习通过预设计的 pretext task（ pretext task）自动构造标签，近年来已被用于增强监督学习。由于先前的自监督 pretext task 基于输入，可能带来巨大的额外训练开销。本文发现 CNN 中的特征也可用于自监督，从而创造性地设计了仅需少量额外训练开销的基于特征的 pretext task（feature-based pretext task）。在该任务中，我们丢弃特征的不同特定区域，然后训练模型区分这些不同特征。为在监督学习中充分应用我们所提的基于特征的 pretext task，我们还提出了一种包含多分类器的新颖学习框架以进一步提升性能。通过特征变换的自监督，原始标签将被扩展为联合标签。借助自监督任务提供的更多语义信息，该方法能更有效地训练 CNN。在多种监督学习任务上的大量实验证明了我们方法的精度提升与广泛适用性。