ICE-BeeM：基于非线性ICA的可辨识条件能量深度模型
机器学习
2020-10-27 v4 机器学习
摘要
我们考虑概率模型的可辨识性理论，并建立了充分条件，使得一类非常广泛的条件能量模型所学习的表示在函数空间中是唯一的，至多一个简单变换。在我们的模型族中，能量函数是两个特征提取器的点积，一个用于因变量，一个用于条件变量。我们表明在温和条件下，这些特征在缩放和置换下是唯一的。我们的结果推广了非线性ICA的最新进展，事实上，它们导致了ICA模型的一个重要推广。特别地，我们表明我们的模型可用于在独立调制成分分析（IMCA）框架下估计成分，IMCA是非线性ICA的一个放宽独立性假设的新推广。一项详尽的实证研究表明，我们的模型从真实世界图像数据集学习的表示是可辨识的，并提升了迁移学习与半监督学习任务的性能。
引用
@article{arxiv.2002.11537,
title = {ICE-BeeM: Identifiable Conditional Energy-Based Deep Models Based on Nonlinear ICA},
author = {Ilyes Khemakhem and Ricardo Pio Monti and Diederik P. Kingma and Aapo Hyvärinen},
journal= {arXiv preprint arXiv:2002.11537},
year = {2020}
}
备注
Accepted for publication at NeurIPS 2020