双教师蒸馏以提升多光谱地球观测特征
计算机视觉与模式识别
2026-02-25 v2
摘要
基础模型正在改变地球观测 (EO)，但 EO 传感器和模态的多样性使得单一通用模型不切实际。多个专用 EO 基础模型 (EOFMs) 可能共存，使得在模态之间高效地传输知识至关重要。大多数现有 EO 预训练方法依赖掩码图像建模，这强调局部重建，但对全局语义结构的控制有限。为此，我们提出一种用于多光谱图像的双教师对比蒸馏框架，将学生的预训练目标与现代光学视觉基础模型 (VFMs) 的对比自蒸馏范式对齐。我们的做法将多光谱教师与光学 VFM 教师结合，实现跨模态表征学习。跨越多样化的光学和多光谱基准测试的实验显示，我们的模型能够在不损害光学输入性能的前提下适应多光谱数据，分别在两个设置中实现最先进的结果，在语义分割中平均提升 3.64 个百分点，在变化检测中提升 1.2，在分类任务中提升 1.31。这表明对比蒸馏为在异构 EO 数据源上实现可扩展的表征学习提供了原则且有效的方法。项目页面: \textcolor{magenta}{https://wolfilip.github.io/DEO/}。
引用
@article{arxiv.2602.19863,
title = {Brewing Stronger Features: Dual-Teacher Distillation for Multispectral Earth Observation},
author = {Filip Wolf and Blaž Rolih and Luka Čehovin Zajc},
journal= {arXiv preprint arXiv:2602.19863},
year = {2026}
}
备注
Accepted to CVPR 2026