基于提示学习和CLIP语义指导的无监督低光图像先验
计算机视觉与模式识别
2024-05-21 v1 图像与视频处理
摘要
当前,低光条件为机器认知构成了重大挑战。本文提出,通过利用丰富的视觉语言CLIP先验信息,而无需任何配对或非配对正常光照数据(这种数据收集工作量大且困难),来改进零参考低光图像增强方法。我们提出一种简单而有效的策略,通过学习提示词来引导增强方法,并实验表明,仅凭无需正常光照数据即可学习到的提示词能够改善图像对比度、减少过度增强,并降低噪声放大。随后,我们提出复用CLIP模型通过零样本开放词汇分类进行语义指导,以针对任务性能而非人类视觉感知进行低光增强优化。我们进行了大量实验,表明所提方法在各种数据集上均能在基于任务的性能方面实现持续性改进,并与当前方法进行了比较,在各种低光数据集上均表现出 favorable 结果。
引用
@article{arxiv.2405.11478,
title = {Unsupervised Image Prior via Prompt Learning and CLIP Semantic Guidance for Low-Light Image Enhancement},
author = {Igor Morawski and Kai He and Shusil Dangi and Winston H. Hsu},
journal= {arXiv preprint arXiv:2405.11478},
year = {2024}
}
备注
Accepted to CVPR 2024 Workshop NTIRE: New Trends in Image Restoration and Enhancement workshop and Challenges