小而强大：用于光学遥感目标分割的大规模模型动态小波专家引导微调
计算机视觉与模式识别
2026-01-15 v1
摘要
从光学遥感图像 (ORSIs) 中准确局部定位和分割相关目标对于推进遥感应用至关重要。现有方法通常建立在中等规模的预训练模型之上，并采用多样的优化策略以在全参数微调下实现有前景的性能。事实上，更深、更大规模的基础模型可以为性能提升提供更强的支持。然而，由于其庞大的参数量，直接采用全参数微调会导致明显的训练困难，例如过度的 GPU 内存消耗和高昂的计算成本，这导致现有工作对大规模模型的探索极其有限。在本文中，我们提出了一种具有较少可训练参数的新型动态小波专家引导微调范式，称为 WEFT，它通过利用小波专家的指导，有效地将大规模基础模型适应于 ORSIs 分割任务。具体而言，我们引入了一个特定任务的小波专家提取器，从不同角度对小波专家进行建模并动态调节其输出，从而为后续微调生成富含特定任务信息的可训练特征。此外，我们构建了一个专家引导的条件适配器，它首先通过注入可训练特征来增强冻结特征对特定任务的细粒度感知，然后迭代更新两类特征的信息，从而实现高效的微调。大量实验表明，我们的 WEFT 不仅在三个 ORSIs 数据集上优于 21 种最先进的 (SOTA) 方法，而且在伪装、自然和医疗场景中也取得了最佳结果。源代码可在以下地址获取：https://github.com/CSYSI/WEFT。
引用
@article{arxiv.2601.09108,
title = {Small but Mighty: Dynamic Wavelet Expert-Guided Fine-Tuning of Large-Scale Models for Optical Remote Sensing Object Segmentation},
author = {Yanguang Sun and Chao Wang and Jian Yang and Lei Luo},
journal= {arXiv preprint arXiv:2601.09108},
year = {2026}
}
备注
Accepted at AAAI 2026