在半监督与弱监督域泛化目标检测中用 Mean Teacher 寻求平坦极小值
计算机视觉与模式识别
2024-10-08 v3
摘要
当训练与测试数据间域差异较大时，目标检测器表现不佳。为在不依赖昂贵标注的情况下克服目标检测中的域鸿沟，我们考虑两种问题设定：半监督域泛化目标检测（SS-DGOD）与弱监督域泛化目标检测（WS-DGOD）。不同于需要多域标注数据的传统目标检测域泛化，SS-DGOD 与 WS-DGOD 仅需来自单域的标注数据以及来自多域的无标注或弱标注数据进行训练。本文中，我们展示了目标检测器可借助相同的 Mean Teacher 学习框架在两种设定下被有效训练，其中学生网络利用教师网络在无标注或弱标注数据上输出的伪标签进行训练。我们针对 Mean Teacher 学习框架在两种设定下表现良好的原因，从泛化差距与参数空间中平坦极小值的关系出发，给出了新颖的解释。基于这些解释，我们还展示了将一种简单正则化方法引入 Mean Teacher 学习框架可导向更平坦的极小值。实验结果表明，该正则化带来了更平坦的极小值，并提升了以 Mean Teacher 学习框架训练的探测器在两种设定下的性能。
引用
@article{arxiv.2310.19351,
title = {Seeking Flat Minima with Mean Teacher on Semi- and Weakly-Supervised Domain Generalization for Object Detection},
author = {Ryosuke Furuta and Yoichi Sato},
journal= {arXiv preprint arXiv:2310.19351},
year = {2024}
}