中文

PAN-Crafter:学习用于 PAN 锐化的模态一致性对齐

计算机视觉与模式识别 2025-07-16 v2 人工智能

摘要

PAN 锐化旨在将高分辨率全色(PAN)图像与低分辨率多光谱(MS)图像融合,以生成高分辨率多光谱(HRMS)输出。然而,由传感器放置、获取时间和分辨率差异引起的跨模态失配带来了一个根本性挑战。传统的深度学习方法假设完美的逐像素对齐,并依赖逐像素重建损失,在存在失配时会导致光谱失真、双边缘和模糊。为了解决这一问题,我们提出了 PAN-Crafter,这是一个模态一致性对齐框架,显式地缓解 PAN 和 MS 模态之间的失配间隙。其核心是模态自适应重建,使单个网络能够联合重建 HRMS 和 PAN 图像,并利用 PAN 的高频细节作为辅助自监督。此外,我们引入了跨模态对齐感知注意力,这是一种新颖的机制,能够将 MS 纹理双向对齐到 PAN 结构,反之亦然,从而实现跨模态的自适应特征细化。在多个基准数据集上的大量实验表明,我们的 PAN-Crafter 在所有指标上均优于最新的 SOTA 方法,且推理速度快 50.11×\times,内存大小仅为 0.63×\times。此外,它在未见过的卫星数据集上展现出强大的泛化性能,表明其在不同条件下的鲁棒性。

关键词

引用

@article{arxiv.2505.23367,
  title  = {PAN-Crafter: Learning Modality-Consistent Alignment for PAN-Sharpening},
  author = {Jeonghyeok Do and Sungpyo Kim and Geunhyuk Youk and Jaehyup Lee and Munchurl Kim},
  journal= {arXiv preprint arXiv:2505.23367},
  year   = {2025}
}

备注

ICCV 2025 (camera-ready version). Please visit our project page https://kaist-viclab.github.io/PAN-Crafter_site