用于无数据网络量化的条件生成对抗网络零样本学习
计算机视觉与模式识别
2022-10-27 v1 机器学习
神经与进化计算
摘要
我们提出了一种无需训练数据即可训练条件生成对抗网络(CGAN)的新方法,称为 CGAN 的零样本学习(ZS-CGAN)。条件生成器的零样本学习只需要一个预训练的判别(分类)模型,不需要任何训练数据。具体而言,通过使用预训练模型批归一化层中存储的统计信息,训练条件生成器以生成特征模仿原始训练数据的带标签合成样本。我们展示了 ZS-CGAN 在深度神经网络无数据量化中的有用性。我们在 ImageNet 数据集上训练的 ResNet 和 MobileNet 分类模型上实现了 SOTA 的无数据网络量化。与传统的依赖数据的量化方法相比,使用 ZS-CGAN 的无数据量化在准确率上表现出极小的损失。
引用
@article{arxiv.2210.14392,
title = {Zero-Shot Learning of a Conditional Generative Adversarial Network for Data-Free Network Quantization},
author = {Yoojin Choi and Mostafa El-Khamy and Jungwon Lee},
journal= {arXiv preprint arXiv:2210.14392},
year = {2022}
}
备注
IEEE ICIP 2021