裁剪内层：一种面向高效U-Net GAN的结构化剪枝策略
机器学习
2022-06-30 v1 计算机视觉与模式识别
摘要
剪枝能有效压缩过参数化模型。尽管判别模型的剪枝方法已取得成效，但将其应用于生成模型则相对较少。本研究对条件GAN的U-Net生成器进行结构化剪枝。逐层敏感度分析证实，靠近瓶颈的最内层中存在许多不必要的滤波器，并可被大幅剪枝。基于该观察，我们从多个内层裁剪这些滤波器，或通过完全移除这些层来建议替代架构。我们在Pix2Pix图像到图像翻译与Wav2Lip语音驱动说话人脸生成上评估了我们的方法。我们的方法优于全局剪枝基线，证明了对于U-Net生成器恰当考虑剪枝位置的重要性。
引用
@article{arxiv.2206.14658,
title = {Cut Inner Layers: A Structured Pruning Strategy for Efficient U-Net GANs},
author = {Bo-Kyeong Kim and Shinkook Choi and Hancheol Park},
journal= {arXiv preprint arXiv:2206.14658},
year = {2022}
}
备注
ICML Workshop on Hardware Aware Efficient Training, 2022