可逆 DenseNet
机器学习
2021-01-11 v3 计算机视觉与模式识别
机器学习
摘要
我们引入可逆密集网络（i-DenseNets），一种比 Residual Flows 更参数高效的替代方案。该方法依赖于对 DenseNets 中拼接的 Lipschitz 连续性的分析，其中我们通过满足 Lipschitz 约束来强制网络的可逆性。此外，我们通过提出可学习的拼接来扩展该方法，这不仅提升了模型性能，还指示了拼接表示的重要性。我们在玩具数据、MNIST 和 CIFAR10 数据上展示了 i-DenseNets 与 Residual Flows 的性能。在相等参数预算下，所有考虑的数据集上，两种 i-DenseNets 在负对数似然上均优于所评估的 Residual Flows。
引用
@article{arxiv.2010.02125,
title = {Invertible DenseNets},
author = {Yura Perugachi-Diaz and Jakub M. Tomczak and Sandjai Bhulai},
journal= {arXiv preprint arXiv:2010.02125},
year = {2021}
}
备注
Accepted at 3rd Symposium on Advances in Approximate Bayesian Inference (AABI)