重访预训练遥感模型基准：尺寸缩放与归一化至关重要
计算机视觉与模式识别
2023-05-24 v1 机器学习
摘要
近年来，自然图像的自监督学习（SSL）研究进展迅速，并正日益应用于包含遥感影像的数据集及相应基准测试。一个常见基准情形是，在具有小图像块尺寸（如 32x32 像素）的遥感影像数据集上评估 SSL 预训练模型嵌入，而标准 SSL 预训练采用较大图像块尺寸（如 224x224）。此外，预训练方法往往依据数据集不同，采用不同的图像归一化预处理步骤。本文中，我们跨七个不同分辨率的卫星与航空影像数据集表明，只需遵循预训练所用的预处理步骤（确切地说，图像尺寸缩放与归一化方法），便能在下游任务评估所提取特征时获得显著性能提升——此为该领域既往工作忽视的重要细节。我们表明，遵循这些步骤后，ImageNet 预训练仍是卫星影像迁移学习任务中具有竞争力的基线——例如，我们发现这些步骤在 So2Sat 随机划分数据集上使总体准确率提升 +32.28，在 EuroSAT 数据集上提升 +11.16。最后，我们针对七个数据集分别报告了多种简单基线方法的综合基准结果，由此构成遥感影像的初始基准套件。
引用
@article{arxiv.2305.13456,
title = {Revisiting pre-trained remote sensing model benchmarks: resizing and normalization matters},
author = {Isaac Corley and Caleb Robinson and Rahul Dodhia and Juan M. Lavista Ferres and Peyman Najafirad},
journal= {arXiv preprint arXiv:2305.13456},
year = {2023}
}