面向图像到图像翻译的语义关系保持知识蒸馏
计算机视觉与模式识别
2021-05-20 v2
摘要
生成对抗网络（GANs）在建模图像数据高维分布方面已展现出显著潜力，尤其在图像到图像翻译任务上。然而，由于这些任务的复杂性，最先进模型通常含有海量参数，导致模型体积庞大且推理时间长。本文提出一种新方法，通过结合知识蒸馏与语义关系保持矩阵的蒸馏来解决该问题。该矩阵由教师模型的特征编码导出，可帮助学生模型学习更好的语义关系。与现有为分类任务设计的压缩方法不同，我们所提方法能良好适配 GAN 上的图像到图像翻译任务。在 5 个不同数据集及 3 对不同师生模型上进行的实验有力证明，我们的方法在定性与定量上均取得令人印象深刻的结果。
引用
@article{arxiv.2104.15082,
title = {Semantic Relation Preserving Knowledge Distillation for Image-to-Image Translation},
author = {Zeqi Li and Ruowei Jiang and Parham Aarabi},
journal= {arXiv preprint arXiv:2104.15082},
year = {2021}
}
备注
Accepted to ECCV 2020