压缩深度图像超分辨率模型

深度学习技术已应用于图像超分辨率（SR）领域，在重建性能方面取得了显著进展。现有技术通常采用高度复杂的模型结构，导致模型尺寸庞大且推理速度缓慢。这往往带来高能耗，并限制了其在实际应用中的采用。为了解决这一问题，本工作采用三阶段工作流来压缩深度 SR 模型，显著降低了其内存需求。通过使用新设计的蒸馏损失进行师生知识蒸馏，恢复了重建性能。我们将该方法应用于两个流行的图像超分辨率网络 SwinIR 和 EDSR，以证明其有效性。由此产生的紧凑模型 SwinIRmini 和 EDSRmini，与原版相比，在模型大小和浮点运算数上分别减少了 89% 和 96%。与原始模型及其他常用 SR 方法相比，它们仍保持了极具竞争力的超分辨率性能。这两种轻量级 SR 方法的源代码和预训练模型已发布于 https://pikapi22.github.io/CDISM/。