SDAKD：面向超分辨率生成对抗网络的学生鉴别器辅助知识蒸馏
计算机视觉与模式识别
2025-10-07 v1
摘要
生成对抗网络（GANs）在生成任务中（如图像超分辨率）取得了卓越的性能，但其计算要求使得在资源受限设备上部署变得困难。虽然知识蒸馏是 GAN 压缩的有前景的研究方向，但有效训练较小的学生生成器具有挑战，因为学生生成器与教师鉴别器之间的容量不匹配。本文提出了学生鉴别器辅助知识蒸馏（SDAKD），这是一种新的 GAN 蒸馏方法，通过引入学生鉴别器来缓解这种容量不匹配。SDAKD 遵循三阶段训练策略，并在最后两个训练阶段集成了适应的特征图蒸馏方法。我们在两个表现良好的超分辨率 GAN（GCFSR 和 Real-ESRGAN）上评估了 SDAKD。我们的实验显示，与基线方法和 SOTA GAN 知识蒸馏方法相比，SDAKD 在各项指标上均实现了一致的改进。SDAKD 的源代码将在论文被接受后公开。
引用
@article{arxiv.2510.03870,
title = {SDAKD: Student Discriminator Assisted Knowledge Distillation for Super-Resolution Generative Adversarial Networks},
author = {Nikolaos Kaparinos and Vasileios Mezaris},
journal= {arXiv preprint arXiv:2510.03870},
year = {2025}
}
备注
Under review