中文

面向真实场景的逆天气图像修复:利用视觉语言模型提升清晰度与语义

计算机视觉与模式识别 2024-09-04 v1 多媒体

摘要

本文针对针对合成数据训练的逆天气图像修复方法在真实场景中应用的局限性进行了探讨。我们构建了一个半监督学习框架,运用视觉语言模型提升在真实环境下各种逆天气条件下的修复性能。我们的方法通过视觉语言模型对真实数据进行图像清晰度评估并提供语义信息,作为训练修复模型的监督信号。对于清晰度提升,我们利用真实数据,采用伪标签由视觉语言模型评估并结合天气提示学习的双步骤策略。对于语义增强,我们通过在视觉语言模型描述中调整天气条件而保留语义含义的方式将真实数据融入其中。此外,我们还引入一种有效的训练策略以引导修复性能提升。我们的方法在真实场景下的逆天气图像修复中取得优异成绩,通过定性和定量比较与现有SOTA方法实现了卓越的效果。

关键词

引用

@article{arxiv.2409.02101,
  title  = {Towards Real-World Adverse Weather Image Restoration: Enhancing Clearness and Semantics with Vision-Language Models},
  author = {Jiaqi Xu and Mengyang Wu and Xiaowei Hu and Chi-Wing Fu and Qi Dou and Pheng-Ann Heng},
  journal= {arXiv preprint arXiv:2409.02101},
  year   = {2024}
}

备注

Accepted by ECCV 2024