基于PCA的知识蒸馏:面向轻量且内容与风格均衡的真实感风格迁移模型
计算机视觉与模式识别
2022-03-30 v1
摘要
真实感风格迁移旨在将参考图像的风格迁移到另一图像,使结果看起来像一张合理的照片。我们的工作受到现有模型因其规模庞大而速度缓慢这一观察的启发。我们引入基于PCA的知识蒸馏来蒸馏轻量模型,并从理论上说明其动机。据我们所知,这是首个针对真实感风格迁移的知识蒸馏方法。我们的实验证明了其与不同骨干架构(VGG和MobileNet)在六种图像分辨率下的通用性。与现有模型相比,我们性能最优的模型运行速度提升5-20倍,且参数量至多为其1%。此外,我们蒸馏得到的模型在风格化强度与内容保持之间取得了比现有模型更好的平衡。为支持复现我们的方法与模型,我们在\textit{https://github.com/chiutaiyin/PCA-Knowledge-Distillation}公开了代码。
引用
@article{arxiv.2203.13452,
title = {PCA-Based Knowledge Distillation Towards Lightweight and Content-Style Balanced Photorealistic Style Transfer Models},
author = {Tai-Yin Chiu and Danna Gurari},
journal= {arXiv preprint arXiv:2203.13452},
year = {2022}
}