基于自监督表示学习的稀有野生动物识别
计算机视觉与模式识别
2022-11-11 v1
摘要
利用航空图像进行自动化动物普查是野生动物保护的重要组成部分。现有模型通常基于监督学习，因此需要大量的训练数据。由于动物在航空图像中数量稀少且体型微小，对其进行标注是一个高度繁琐的过程。在本项目中，我们提出了一种利用自监督预训练来减少所需训练数据量的方法。具体而言，我们结合了近期对比学习方法（如 Momentum Contrast (MoCo) 和 Cross-Level Instance-Group Discrimination (CLD)），在无需标签的情况下使模型适应航空图像。我们表明，结合 MoCo、CLD 和几何增强的模型以大幅优势优于在 ImageNet 上预训练的常规模型。同时，在监督学习中平滑标签或预测分布的策略已被证明有助于防止模型过拟合。我们将自监督对比模型与图像 mixup 策略相结合，发现这有助于学习更鲁棒的视觉表示。关键在于，即使我们将训练动物的数量减少到仅 10%，我们的方法仍能产生良好的结果，此时我们最佳模型在相似精度下的召回率是基线的两倍。这有效地将所需标注量减少到一小部分，同时仍能在如此具有挑战性的环境中训练出高精度模型。
引用
@article{arxiv.2211.05636,
title = {Rare Wildlife Recognition with Self-Supervised Representation Learning},
author = {Xiaochen Zheng},
journal= {arXiv preprint arXiv:2211.05636},
year = {2022}
}
备注
A dissertation submitted to attain the degree of Master of Sciences of ETH Zurich in August 2021. Code is available at: https://github.com/xcvil/self-rare-wildlife