Dream Distillation：一种数据无关的模型压缩框架
机器学习
2019-05-20 v1 计算机视觉与模式识别
机器学习
摘要
模型压缩极适合在 IoT 设备上部署深度学习。然而，现有的模型压缩技术依赖于对原始数据或某些替代数据集的访问。在本文中，我们解决了当无真实数据可用（例如数据为私有）时的模型压缩问题。为此，我们提出了 Dream Distillation，一种数据无关的模型压缩框架。我们的实验表明，Dream Distillation 可在 CIFAR-10 测试集上达到 88.5% 的准确率，而无需在原始数据上实际训练！
引用
@article{arxiv.1905.07072,
title = {Dream Distillation: A Data-Independent Model Compression Framework},
author = {Kartikeya Bhardwaj and Naveen Suda and Radu Marculescu},
journal= {arXiv preprint arXiv:1905.07072},
year = {2019}
}
备注
Presented at the ICML 2019 Joint Workshop on On-Device Machine Learning & Compact Deep Neural Network Representations (ODML-CDNNR)