面向分割任务的地球观察基础模型快速适应
计算机视觉与模式识别
2024-09-17 v1
摘要
本研究探讨了低秩适应（LoRA）在对地观察（EO）基础模型进行洪水分割微调中的效能。我们假设，LoRA作为一种参数高效技术，能够显著加速大规模EO模型针对这一关键任务的适应，同时保持高性能。我们将LoRA应用于微调在多样化卫星影像上预训练的领先EO基础模型，使用精选的洪水事件数据集。我们的结果表明，LoRA基于微调的方法（r-256）相较于冻结编码器基线在F1得分提升6.66分，在IoU提升0.11，同时显著降低计算成本。值得注意的是，LoRA超越了全参数微调，后者在我们的硬件上证明计算不可行。我们进一步通过在地理学意义上不同的洪水事件上的外部分布（OOD）测试评估了泛化性。尽管LoRA配置在基线之上展现了改进的OOD性能。本工作推动了面向特定EO任务高效适配基础模型的研究，对于灾害管理中的快速响应系统具有重要意义。我们的发现表明，LoRA有潜力实现资源受限且时间紧迫场景中准确洪水分割模型的快速部署。
引用
@article{arxiv.2409.09907,
title = {Rapid Adaptation of Earth Observation Foundation Models for Segmentation},
author = {Karthick Panner Selvam and Raul Ramos-Pollan and Freddie Kalaitzis},
journal= {arXiv preprint arXiv:2409.09907},
year = {2024}
}
备注
9 pages 2 figures