NICE：非线性独立分量估计
机器学习
2015-04-13 v6
摘要
我们提出了一种名为非线性独立分量估计（Non-linear Independent Component Estimation, NICE）的深度学习框架，用于建模复杂的高维密度。其基本思想是，良好的表示应使数据具有易于建模的分布。为此，我们学习一种数据的非线性确定性变换，将其映射到潜在空间，从而使变换后的数据符合因子化分布，即产生独立的潜在变量。我们对这种变换进行参数化，使得计算 Jacobian 行列式和逆变换变得微不足道，同时通过由基于深度神经网络的简单构建块组成的组合，保持了学习复杂非线性变换的能力。训练准则仅仅是精确的对数似然，这是可处理的。无偏祖先采样也很容易实现。我们表明，该方法在四个图像数据集上产生了良好的生成模型，并可用于图像修复。
引用
@article{arxiv.1410.8516,
title = {NICE: Non-linear Independent Components Estimation},
author = {Laurent Dinh and David Krueger and Yoshua Bengio},
journal= {arXiv preprint arXiv:1410.8516},
year = {2015}
}
备注
11 pages and 2 pages Appendix, workshop paper at ICLR 2015