自监督特征增强：将内部 pretext 任务应用于监督学习
计算机视觉与模式识别
2021-06-10 v1
摘要
传统自监督学习需要 CNN 利用外部 pretext 任务（即基于图像或视频的任务）来编码高级语义视觉表征。本文中，我们表明 CNN 内部的特征变换亦可被视为构建自监督任务的监督信号，称为\emph{内部 pretext 任务}。且此类任务可用于增强监督学习。具体而言，我们首先通过丢弃不同通道对内部特征图进行变换，随后定义一个额外的内部 pretext 任务以识别被丢弃的通道。CNN 被训练来预测由自监督标签与原始标签组合生成的联合标签。借此，我们使 CNN 在分类时知晓哪些通道缺失，以期挖掘更丰富的特征信息。大量实验表明，我们的方法在各种模型与数据集上均有效。值得注意的是，我们仅引入了可忽略的计算开销。此外，我们的方法亦可兼容其他方法以获得更优结果。
引用
@article{arxiv.2106.04921,
title = {Self-supervised Feature Enhancement: Applying Internal Pretext Task to Supervised Learning},
author = {Yuhang Yang and Zilin Ding and Xuan Cheng and Xiaomin Wang and Ming Liu},
journal= {arXiv preprint arXiv:2106.04921},
year = {2021}
}