中文

用于无数据网络量化的条件生成对抗网络零样本学习

计算机视觉与模式识别 2022-10-27 v1 机器学习 神经与进化计算

摘要

我们提出了一种无需训练数据即可训练条件生成对抗网络(CGAN)的新方法,称为 CGAN 的零样本学习(ZS-CGAN)。条件生成器的零样本学习只需要一个预训练的判别(分类)模型,不需要任何训练数据。具体而言,通过使用预训练模型批归一化层中存储的统计信息,训练条件生成器以生成特征模仿原始训练数据的带标签合成样本。我们展示了 ZS-CGAN 在深度神经网络无数据量化中的有用性。我们在 ImageNet 数据集上训练的 ResNet 和 MobileNet 分类模型上实现了 SOTA 的无数据网络量化。与传统的依赖数据的量化方法相比,使用 ZS-CGAN 的无数据量化在准确率上表现出极小的损失。

关键词

引用

@article{arxiv.2210.14392,
  title  = {Zero-Shot Learning of a Conditional Generative Adversarial Network for Data-Free Network Quantization},
  author = {Yoojin Choi and Mostafa El-Khamy and Jungwon Lee},
  journal= {arXiv preprint arXiv:2210.14392},
  year   = {2022}
}

备注

IEEE ICIP 2021