Embedding Earth：面向稠密土地覆盖分类的自监督对比预训练
计算机视觉与模式识别
2022-03-14 v1 机器学习
摘要
在训练用于土地覆盖语义分割的机器学习模型时，可用作输入的卫星影像与支撑监督学习的地面真值数据在可用性上形成鲜明对比。尽管每天有数千幅新卫星图像免费可用，获取地面真值数据仍非常具有挑战性、耗时且昂贵。本文中我们提出 Embedding Earth，一种自监督对比预训练方法，用于利用大量可用的卫星影像提升下游稠密土地覆盖分类任务的性能。我们开展跨越四个国家与两个大陆的广泛实验评估，使用以所提方法预训练的模型作为监督土地覆盖语义分割的初始化点，观察到最高达 25% 绝对 mIoU 的显著提升。在每一个测试案例中我们都优于随机初始化，尤其在地面真值数据稀缺时如此。通过一系列消融研究我们探究所提方法的性质，并发现所学特征能在差异悬殊的区域间泛化，从而开启了使用所提预训练方案替代随机初始化用于地球观测任务的可能性。代码将很快上传至 https://github.com/michaeltrs/DeepSatModels。
引用
@article{arxiv.2203.06041,
title = {Embedding Earth: Self-supervised contrastive pre-training for dense land cover classification},
author = {Michail Tarasiou and Stefanos Zafeiriou},
journal= {arXiv preprint arXiv:2203.06041},
year = {2022}
}
备注
Self-supervised pre-training for semantic segmentation. Replacement to random initialization