SITS-DECO:面向卫星图像时间序列建模的生成式解码器即所需
计算机视觉与模式识别
2025-10-28 v1 人工智能
机器学习
摘要
地球观测(EO)基础建模(FM)在简化和改进EO数据用于多样化现实任务的应用方面具有巨大的潜力。然而,大多数现有模型在实际应用中需要额外的适配,且结构僵化,局限于特定数据源或训练方法。为此,我们借鉴大语言模型的思路,通过对统一标记序列的下一个标记预测来隐式捕获预训练和下游任务,充分利用训练数据的结构和多样性。我们引入SITS-DECO(Satellite Image Time Series-DECoder Only),这是一种面向卫星图像时间序列建模的生成模型,证明了将统一序列框架应用于EO数据的可行性。采用简单的GPT式解码器-only架构,我们展示了其在纯粹生成框架中执行有用EO任务(像素级、多时间、多模态作物类型分类)的能力。通过符号提示,我们表明该模型能够在单个统一架构中执行多个监督和自监督任务,无需任务或模态特定的适配。尽管其简单且缺乏空间上下文,SITS-DECO在作物类型分类(PASTIS-R)方面超越了更大的EO基础模型,表明稠密时间序列建模是当前范式中缺失的关键要素。这一工作体现了一种以数据为中心的建模范式,即能力源于训练数据的多样性和结构,而非架构复杂度。SITS-DECO为多模态、多任务EO建模提供了轻量、实用的路径,并为未来生成式EO基础模型奠定了概念桥梁。
引用
@article{arxiv.2510.21813,
title = {SITS-DECO: A Generative Decoder Is All You Need For Multitask Satellite Image Time Series Modelling},
author = {Samuel J. Barrett and Docko Sow},
journal= {arXiv preprint arXiv:2510.21813},
year = {2025}
}
备注
27 pages, 7 figures