通过基座模型组合实现可扩展且可泛化的地球观测数据挖掘
计算机视觉与模式识别
2025-06-27 v2
摘要
基座模型正在快速变革地球观测数据挖掘，通过实现关键任务（如场景分类和语义分割）的通用化和可扩展解决方案。虽然地理空间领域的大多数努力都集中在使用大量地球观测数据从头训练大型模型，但仍有一种未被充分探索的替代策略，即复用和组合现有的预训练模型。本研究探讨了基于遥感和通用视觉数据集预训练的基座模型是否能够有效组合，以提高跨多样化关键地球观测任务的性能。我们使用 GEO-Bench 框架，对包括 Prithvi、Hiera 和 DOFA 等多个著名模型在十一个数据集上进行评估，这些数据集涵盖了各种空间分辨率、传感器模态和任务类型。结果表明，对较小预训练模型进行特征级集成可匹配或超过大型模型的性能，同时所需的训练时间和计算资源更少。此外，本研究突显了将集合知识蒸馏应用于将集合优势传递到更紧凑模型方面的潜力，为在实际应用中部署地球观测基座模型提供了可行的路径。
引用
@article{arxiv.2506.20174,
title = {Towards Scalable and Generalizable Earth Observation Data Mining via Foundation Model Composition},
author = {Man Duc Chuc},
journal= {arXiv preprint arXiv:2506.20174},
year = {2025}
}