HyperGAN：一种用于生成多样且高性能神经网络的生成模型
机器学习
2020-07-16 v3 机器学习
摘要
标准神经网络在面临训练分布之外的数据时常常过度自信。我们引入HyperGAN，一种用于学习神经网络参数分布的新生成模型。HyperGAN不需要对先验施加限制性假设，从中采样的网络可用于快速创建非常庞大且多样的集成。HyperGAN采用一种新颖的混合器将先验样本投影到具有相关维度的潜空间，随后潜空间中的样本被用于生成深度神经网络每一层的权重。我们表明HyperGAN能够学习生成以与全监督学习相当的性能标注MNIST和CIFAR-10数据集的参数，同时学习到有效参数的丰富分布。我们还表明，通过在分布外数据及对抗样本上评估，HyperGAN可提供比标准集成更好的不确定性估计。
引用
@article{arxiv.1901.11058,
title = {HyperGAN: A Generative Model for Diverse, Performant Neural Networks},
author = {Neale Ratzlaff and Li Fuxin},
journal= {arXiv preprint arXiv:1901.11058},
year = {2020}
}
备注
11 pages, 10 figures, 6 tables, Accepted to ICML 2019