基于通用不可压缩流网络（GIN）的非线性ICA解耦
机器学习
2020-01-15 v1 机器学习
摘要
表示学习的一个核心问题是在何种条件下可以重构任意复杂生成过程的真实潜变量。Khemakhem等人（2019）关于非线性ICA的突破性工作回答了一大类条件生成过程的此问题。我们在一个与现实数据应用相关的方向上扩展这一重要结果。首先，我们将理论推广到未知内禀问题维度的情况，并证明在某些特殊（但不很受限）情形下，信息性潜变量将由估计模型自动从噪声中分离出来。此外，恢复的信息性潜变量与生成过程的真实潜变量之间将存在一一对应，至多一个平凡的逐分量变换。其次，我们引入对RealNVP可逆神经网络架构（Dinh等人（2016））的一种修改，其特别适合此类问题：通用不可压缩流网络（GIN）。在人工数据与EMNIST上的实验表明理论预测确实在实践中得到验证。特别地，我们提供了从EMNIST提取的恰好22个信息性潜变量的详细集合。
引用
@article{arxiv.2001.04872,
title = {Disentanglement by Nonlinear ICA with General Incompressible-flow Networks (GIN)},
author = {Peter Sorrenson and Carsten Rother and Ullrich Köthe},
journal= {arXiv preprint arXiv:2001.04872},
year = {2020}
}
备注
23 pages, 15 figures, ICLR 2020