迈向地球监测基础模型：一个气候变化基准的提案
机器学习
2021-12-02 v1 地球物理
摘要
自监督的最新进展表明，在大量无监督数据上预训练大型神经网络可显著提升下游任务的泛化能力。此类模型近期被称为基础模型(foundation models)，已给自然语言处理领域带来变革。尽管类似模型也已在大规模图像语料上训练，但它们并不适用于遥感数据。为激励地球监测基础模型的发展，我们提议构建一个由多种与气候变化相关的下游任务组成的新基准。我们相信这能为许多现有应用带来实质改进，并促进新应用的开发。本提案亦旨在呼吁合作，以建立更好的评估流程，从而缓解地球监测基础模型的潜在负面影响。
引用
@article{arxiv.2112.00570,
title = {Toward Foundation Models for Earth Monitoring: Proposal for a Climate Change Benchmark},
author = {Alexandre Lacoste and Evan David Sherwin and Hannah Kerner and Hamed Alemohammad and Björn Lütjens and Jeremy Irvin and David Dao and Alex Chang and Mehmet Gunturkun and Alexandre Drouin and Pau Rodriguez and David Vazquez},
journal= {arXiv preprint arXiv:2112.00570},
year = {2021}
}