基于掩码图像建模（MIM）的遥感场景分类
计算机视觉与模式识别
2023-03-27 v2
摘要
遥感场景分类因其在地质调查、石油勘探、交通管理、地震预测、野火监测及情报监测中的关键作用而被广泛研究。过去，执行该任务的机器学习（ML）方法主要使用以监督学习（SL）方式预训练的骨干网络。由于掩码图像建模（MIM）作为一种自监督学习（SSL）技术，已被证明是学习视觉特征表示的更优方法，它为提升场景分类任务上的 ML 性能提供了新机遇。本研究旨在探索 MIM 预训练骨干网络在四个知名分类数据集上的潜力：Merced、AID、NWPU-RESISC45 和 Optimal-31。与已发表的基准相比，我们表明 MIM 预训练的 Vision Transformer（ViTs）骨干网络优于其他替代方案（top 1 准确率高出达 18%），并且 MIM 技术能够学习到比监督学习对应方法更好的特征表示（top 1 准确率高出达 5%）。此外，我们表明通用的 MIM 预训练 ViTs 能够取得与专门设计且复杂的 Transformer for Remote Sensing（TRS）框架相媲美的性能。我们的实验结果还为未来研究提供了性能基线。
引用
@article{arxiv.2302.14256,
title = {Remote Sensing Scene Classification with Masked Image Modeling (MIM)},
author = {Liya Wang and Alex Tien},
journal= {arXiv preprint arXiv:2302.14256},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2301.12058