评估对比自监督学习在多分辨率卫星影像中的标签效率
图像与视频处理
2024-10-08 v1 计算机视觉与模式识别
机器学习
摘要
深度神经网络在遥感影像中的应用常受限于地面真值标注的缺乏。解决这一问题需要能够从有限标注数据中高效泛化的模型，从而使我们能够应对更广泛的地球观测任务。该领域的另一挑战是开发可在可变空间分辨率下运行的算法，例如在不同尺度上分类土地利用的问题。近来，自监督学习已被应用于遥感领域以利用现成可用的无标签数据，并被证明能够缩小甚至弥合与监督学习之间的差距。本文从标签效率的视角研究自监督视觉表征学习，针对多分辨率/多尺度卫星影像上的土地利用分类任务。我们对两种改编自动量对比（Momentum Contrast, MoCo）的对比自监督方法进行了基准测试，并提供证据表明这些方法在少量下游监督下即可有效工作，而随机初始化的网络无法泛化。此外，它们优于域外预训练方案。我们使用大规模 fMoW 数据集进行预训练与网络评估，并通过迁移到 RESISC45 数据集验证了我们的观察。
引用
@article{arxiv.2210.06786,
title = {Evaluating the Label Efficiency of Contrastive Self-Supervised Learning for Multi-Resolution Satellite Imagery},
author = {Jules Bourcier and Gohar Dashyan and Jocelyn Chanussot and Karteek Alahari},
journal= {arXiv preprint arXiv:2210.06786},
year = {2024}
}