SatDINO：深入探索遥感图像的自监督预训练
计算机视觉与模式识别
2025-09-01 v1 机器学习
摘要
自监督学习已成为遥感领域的强大工具， 因为这里拥有大量未标记的数据。本文我们考察了 DINO 这种对比自监督方法用于遥感图像预训练的潜力。我们引入 SatDINO， 一个专为卫星图像表示学习设计的模型。通过在多个数据集上进行大量实验并在多种测试设置下评估，我们展示了 SatDINO 在性能上优于其他基于更常见的掩码自编码器 (MAE) 的 state-of-the-art 方法，并在多个基准测试中取得具竞争力的结果。我们还提供了对 SatDINO 各个组成部分进行严格消融研究的评估。最后，我们提出了一些新颖的改进，例如一种新的方式来融合地面样本距离 (GSD) 编码和自适应视角抽样。这些改进可以独立地应用于 SatDINO 模型。我们的代码和训练好的模型均已公开：https://github.com/strakaj/SatDINO。
引用
@article{arxiv.2508.21402,
title = {SatDINO: A Deep Dive into Self-Supervised Pretraining for Remote Sensing},
author = {Jakub Straka and Ivan Gruber},
journal= {arXiv preprint arXiv:2508.21402},
year = {2025}
}