SSL4EO-S12:用于地球观测中自监督学习的大规模多模态多时相数据集
计算机视觉与模式识别
2023-05-30 v2 人工智能
摘要
自监督预训练有潜力在无人工标注的情况下生成具表现力的表征。大多数地球观测(EO)中的预训练基于ImageNet或中等规模、有标签的遥感(RS)数据集。我们发布了一个无标签的RS数据集SSL4EO-S12(Self-Supervised Learning for Earth Observation - Sentinel-1/2,用于地球观测的自监督学习——哨兵1/2号),以汇集来自ESA哨兵-1和-2卫星任务的大规模、全球、多模态、多季节的卫星影像语料库。针对EO应用,我们证明SSL4EO-S12可成功用于一组方法的自监督预训练:MoCo-v2、DINO、MAE和data2vec。所得模型产生的下游性能接近或超越监督学习的精度指标。此外,在SSL4EO-S12上的预训练优于现有数据集。我们在 https://github.com/zhu-xlab/SSL4EO-S12 公开提供该数据集、相关源代码和预训练模型。
引用
@article{arxiv.2211.07044,
title = {SSL4EO-S12: A Large-Scale Multi-Modal, Multi-Temporal Dataset for Self-Supervised Learning in Earth Observation},
author = {Yi Wang and Nassim Ait Ali Braham and Zhitong Xiong and Chenying Liu and Conrad M Albrecht and Xiao Xiang Zhu},
journal= {arXiv preprint arXiv:2211.07044},
year = {2023}
}
备注
Accepted by IEEE Geoscience and Remote Sensing Magazine. 18 pages