基于知识蒸馏的盲超分辨率退化估计

盲图像超分辨率（Blind-SR）旨在从对应的、具有未知退化的低分辨率（LR）输入图像中恢复出高分辨率（HR）图像。现有大多数工作为每种退化设计显式的退化估计器以指导 SR。然而，为多种退化组合（如模糊、噪声、jpeg 压缩）提供具体标签来监督退化估计器训练是不可行的。此外，这些针对特定退化（如模糊）的特殊设计阻碍了模型泛化到处理不同退化。为此，有必要设计一种隐式退化估计器，能够在无需退化真值监督的情况下为所有退化提取有判别力的退化表示。本文提出一种基于知识蒸馏的盲 SR 网络（KDSR）。它由一个基于知识蒸馏的隐式退化估计器网络（KD-IDE）和一个高效的 SR 网络组成。为学习 KDSR 模型，我们首先训练一个教师网络：KD-IDE$_{T}$。它以成对的 HR 和 LR 块作为输入，并与 SR 网络联合优化。然后，我们进一步训练一个学生网络 KD-IDE$_{S}$，它仅以 LR 图像作为输入，并学习提取与 KD-IDE$_{T}$ 相同的隐式退化表示（IDR）。此外，为充分利用提取的 IDR，我们设计了一个简单、强大且高效的基于 IDR 的动态卷积残差块（IDR-DCRB）来构建 SR 网络。我们在经典和真实世界退化设置下进行了大量实验。结果表明 KDSR 取得了 SOTA 性能，并能泛化到各种退化过程。源代码与预训练模型将会公开。