HyperFree:面向高光谱遥感图像的通道自适应无调参基础模型
计算机视觉与模式识别
2025-03-31 v1
摘要
高级的高光谱遥感图像解释有助于许多精准的地球观测任务。最近,视觉基础模型推动了遥感解释,但主要关注RGB和多光谱图像。由于高光谱波段数量差异大,现有的基础模型将面临按图像调参的情况,这给硬件和时间资源带来巨大压力。本文提出一种无调参的高光谱基础模型,称为HyperFree,通过适应现有的视觉提示工程实现。为处理不同波段数量,我们设计了一个覆盖全光谱范围的可学习权重字典,支持动态构建嵌入层。为使提示设计更加可行,HyperFree通过将特征距离视为语义相似性,能够为单个提示生成多个语义感知掩码。经过在构建的大规模高分辨率高光谱图像上预训练后,HyperFree(仅需1个提示)在5个任务和11个数据集上显示出与专用模型(5次采样)相当的结果。代码和数据集可在https://rsidea.whu.edu.cn/hyperfree.htm访问。
引用
@article{arxiv.2503.21841,
title = {HyperFree: A Channel-adaptive and Tuning-free Foundation Model for Hyperspectral Remote Sensing Imagery},
author = {Jingtao Li and Yingyi Liu and Xinyu Wang and Yunning Peng and Chen Sun and Shaoyu Wang and Zhendong Sun and Tian Ke and Xiao Jiang and Tangwei Lu and Anran Zhao and Yanfei Zhong},
journal= {arXiv preprint arXiv:2503.21841},
year = {2025}
}
备注
Accepted by CVPR2025