中文

MintNet:用掩码卷积构建可逆神经网络

机器学习 2019-10-30 v2 计算机视觉与模式识别 机器学习

摘要

我们提出一种通过组合简单构建块与一组新颖复合规则来构造可逆神经网络的新方法。这带来了一组丰富的可逆架构,包括类似于 ResNets 的架构。逆变换通过一种局部收敛的迭代过程实现,该过程可并行化且实践中非常快速。此外,Jacobian 的行列式可被解析且高效地计算,使其能作为流模型用于生成目的。为展示其灵活性,我们表明我们的可逆神经网络在 MNIST 和 CIFAR-10 分类上与 ResNets 具有竞争力。当作为生成模型训练时,我们的可逆网络在 MNIST、CIFAR-10 和 ImageNet 32x32 上取得有竞争力的似然值,每维比特数分别为 0.98、3.32 和 4.06。

关键词

引用

@article{arxiv.1907.07945,
  title  = {MintNet: Building Invertible Neural Networks with Masked Convolutions},
  author = {Yang Song and Chenlin Meng and Stefano Ermon},
  journal= {arXiv preprint arXiv:1907.07945},
  year   = {2019}
}

备注

NeurIPS 2019