中文

大规模掩码自编码以降低SAR数据的标注需求

计算机视觉与模式识别 2024-10-01 v4 图像与视频处理

摘要

基于卫星的遥感在监测和缓解人为气候变化影响方面发挥着重要作用。源自这些传感器的大尺度高分辨率数据可用于为干预与政策决策提供信息,但这些干预的及时性与准确性受限于光学数据的使用,后者无法在夜间工作且受不利天气条件影响。合成孔径雷达(SAR)提供了对光学数据的稳健替代,但其相关复杂性限制了传统深度学习标注数据的生成规模。本工作中,我们将一种自监督预训练方案——掩码自编码——应用于覆盖地球陆地表面积 8.7% 的 SAR 幅度数据,并在两项对监测气候变化至关重要的下游任务上微调预训练权重:植被覆盖预测与土地覆盖分类。我们表明,该预训练方案使下游任务的标注需求降低了一个数量级以上,且此预训练具有地理泛化性,当在预训练集以外区域进行下游微调时性能增益增大。我们的发现通过促进任务和区域特定 SAR 模型的开发,显著推进了气候变化缓解,使地方社区与组织能够部署定制化方案以快速、准确地监测气候变化效应。

关键词

引用

@article{arxiv.2310.00826,
  title  = {Large Scale Masked Autoencoding for Reducing Label Requirements on SAR Data},
  author = {Matt Allen and Francisco Dorr and Joseph A. Gallego-Mejia and Laura Martínez-Ferrer and Anna Jungbluth and Freddie Kalaitzis and Raúl Ramos-Pollán},
  journal= {arXiv preprint arXiv:2310.00826},
  year   = {2024}
}

备注

12 pages, 6 figures. Tackling Climate Change with Machine Learning: Workshop at NeurIPS 2023