微剂量：面向基于GAN压缩的知识蒸馏
图像与视频处理
2022-01-11 v1 计算机视觉与模式识别
摘要
近来，在习得式图像与视频压缩方面取得了显著进展。特别是生成对抗网络（GAN）的使用在低比特率 regime 下带来了令人印象深刻的结果。然而，模型规模仍是当前最先进方案中的一个重要问题，且现有解决方案在解码端需要大量计算开销。这限制了它们在现实场景中的使用以及对视频压缩的扩展。在本文中，我们展示了如何利用知识蒸馏以原始参数量的一小部分获得同样能力的图像解码器。我们研究了方案的若干方面，包括用于图像编码的带边信息的序列专门化。最后，我们还展示了如何将所获收益迁移到视频压缩的设置中。总体而言，这使我们将模型规模缩减为原来的1/20，并实现了解码时间50%的减少。
引用
@article{arxiv.2201.02624,
title = {Microdosing: Knowledge Distillation for GAN based Compression},
author = {Leonhard Helminger and Roberto Azevedo and Abdelaziz Djelouah and Markus Gross and Christopher Schroers},
journal= {arXiv preprint arXiv:2201.02624},
year = {2022}
}
备注
BMVC 2021