面向图像修复的知识蒸馏：同步学习受损与干净图像
计算机视觉与模式识别
2025-01-17 v1 图像与视频处理
摘要
知识蒸馏通过模型压缩在分类和分割任务中得到了广泛应用，但在图像到图像转换中，尤其是在图像修复任务中的潜力仍未得到充分探索。为此，我们提出了针对图像修复任务模型压缩的同步学习知识蒸馏（SLKD）框架。SLKD采用双教师单学生架构，同时采用两种不同的学习策略：退化去除学习（DRL）和图像重建学习（IRL）。在DRL中，学生编码器通过提出的 novel BRISQUE 提取器，从教师A学习以关注去除退化因素。在IRL中，学生解码器借助提出的 PIQE 提取器，从教师B学习以重建干净图像。这些策略使学生能够同时从受损和干净图像中学习，确保图像修复模型的高质量压缩。实验结果表明，在五个数据集和三个任务上，SLKD 能实现超过80%的FLOPs和参数显著降低，同时保持出色的图像修复性能。
引用
@article{arxiv.2501.09268,
title = {Knowledge Distillation for Image Restoration : Simultaneous Learning from Degraded and Clean Images},
author = {Yongheng Zhang and Danfeng Yan},
journal= {arXiv preprint arXiv:2501.09268},
year = {2025}
}
备注
Accepted by ICASSP2025