面向遥感图像场景分类的自监督域内表示学习
计算机视觉与模式识别
2023-02-06 v1
摘要
将ImageNet预训练权重迁移到各种遥感任务中已取得可接受的结果，并减少了对标注样本的需求。然而，地面图像与遥感图像之间的领域差异导致此类迁移学习的性能受限。近期研究表明，自监督学习方法捕获的视觉特征比有监督的ImageNet权重更具判别性和可迁移性。受此启发，我们使用对比自监督学习对遥感图像的域内表示进行预训练，并将学习到的特征迁移到其他相关遥感数据集。具体而言，我们使用SimSiam算法预训练遥感数据集的域内知识，然后将获得的权重迁移到其他场景分类数据集。由此，我们在五个具有不同类别数和空间分辨率的土地覆盖分类数据集上取得了最先进的结果。此外，通过进行适当的实验，包括使用不同属性数据集进行特征预训练，我们确定了使数据集成为获取域内特征的理想选择的最具影响力的因素。我们将SimSiam在遥感数据集上预训练获得的特征迁移到各种下游任务，并将其用作微调的初始权重。此外，我们在每类样本数量有限的情况下对获得的表示进行了线性评估。实验表明，在自监督预训练阶段使用更高分辨率的数据集能够学习到更具判别性和通用性的表示。
引用
@article{arxiv.2302.01793,
title = {Self-Supervised In-Domain Representation Learning for Remote Sensing Image Scene Classification},
author = {Ali Ghanbarzade and Hossein Soleimani},
journal= {arXiv preprint arXiv:2302.01793},
year = {2023}
}