嵌入方式何妨：地球观察嵌入设计选择的评估
计算机视觉与模式识别
2026-04-09 v2
摘要
地球观察 (Earth observation, EO) 任务产生海量多光谱影像，日益依赖于大型地理基础模型 (Geospatial Foundation Models, GeoFMs) 进行分析。除端到端适应外，工作流程正逐渐广泛使用中间表示作为任务无关的嵌入，使模型能够计算一次表示并在下游任务中重复使用。因此，当 GeoFMs 作为特征提取器时，关于如何获取、聚合和组合表示的决策，将影响下游性能和管道可扩展性。深入理解这些权衡对于可扩展的基于嵌入的 EO 工作流程至关重要，其中紧凑的嵌入可取代原始数据，同时保持广泛的实用性。我们present对 GeoFM 基于 EO 工作流程中嵌入设计的系统性分析。利用 NeuCo-Bench，我们研究了 backbone architecture、预训练策略、表示深度、空间聚合以及表示组合如何影响 EO 任务性能。我们展示了 GeoFMs 嵌入的可用性，通过将其聚合为大于 500 倍小于原始输入数据的固定大小表示。在所有模型中，我们发现一致的趋势：采用均值池化的 transformer backbone 提供强大的默认嵌入，中间 ResNet 层可优于最终层，自监督目标在特定任务上表现出优势，而来自不同目标的嵌入组合往往能提高鲁棒性。
关键词
引用
@article{arxiv.2603.10658,
title = {How to Embed Matters: Evaluation of EO Embedding Design Choices},
author = {Luis Gilch and Isabelle Wittmann and Maximilian Nitsche and Johannes Jakubik and Arne Ewald and Thomas Brunschwiler},
journal= {arXiv preprint arXiv:2603.10658},
year = {2026}
}