用于半监督目标检测的时间自集成教师
计算机视觉与模式识别
2020-09-03 v3
摘要
本文关注半监督目标检测（SSOD）。知识蒸馏（KD）已广泛用于半监督图像分类。然而，将这些方法适配于 SSOD 存在以下障碍：（1）教师模型兼具教师与学生双重角色，使得教师对无标签图像的预测可能非常接近学生，限制了学生的上限；（2）SSOD 中的类不平衡问题阻碍了从教师到学生的高效知识迁移。为解决这些问题，我们提出一种用于 SSOD 的新颖方法——时间自集成教师（TSE-T）。与先前基于 KD 的方法不同，我们设计了一个随时间演化的教师模型。首先，我们的教师模型在随机扰动下对无标签图像的时间预测进行集成。其次，我们的教师模型通过指数移动平均（EMA）将其时间模型权重与学生模型权重集成，使教师逐渐从学生处学习。这些自集成策略增加了数据与模型多样性，从而改进教师对无标签图像的预测。最后，我们使用 focal loss 构造一致性正则项以处理数据不平衡问题，这比仅保留高置信预测的简易硬阈值方法更能高效利用无标签图像中的有用信息。在广泛使用的 VOC 和 COCO 基准上评估，我们的方法 mAP 在 VOC2007 测试集和 COCO2014 minval5k 集上分别达到 80.73% 和 40.52%，较强全监督检测器分别高出 2.37% 和 1.49%。此外，我们的方法在 VOC2007 测试集上确立了 SSOD 的新 SOTA，较基线 SSOD 方法高出 1.44%。本工作的源代码公开于 http://github.com/syangdong/tse-t。
引用
@article{arxiv.2007.06144,
title = {Temporal Self-Ensembling Teacher for Semi-Supervised Object Detection},
author = {Cong Chen and Shouyang Dong and Ye Tian and Kunlin Cao and Li Liu and Yuanhao Guo},
journal= {arXiv preprint arXiv:2007.06144},
year = {2020}
}
备注
13 papges, 4 figures, preprint for submission