论非线性 ICA 的可辨识性:稀疏性及其超越
机器学习
2024-02-27 v5 人工智能
机器学习
摘要
非线性独立分量分析(ICA)旨在从其可观测的非线性混合中恢复底层独立潜源。如何使非线性 ICA 模型在特定的平凡不确定性下可辨识,是无监督学习中的一个长期问题。近期突破将源的标准独立性假设重新表述为给定某些辅助变量(例如类标签和/或域/时间索引)的条件独立性,作为弱监督或归纳偏置。然而,具有无条件先验的非线性 ICA 无法从这些进展中获益。我们探索了一条替代路径,仅考虑对混合过程的假设,例如结构稀疏性。我们表明,在此类约束的特定实例化下,独立潜源可从其非线性混合中辨识,至多相差一个置换和分量wise变换,从而在无辅助变量的情况下实现非线性 ICA 的非平凡可辨识性。我们提供了估计方法并通过实验验证了理论结果。在图像数据上的结果表明,我们的条件可能存在于许多实际数据生成过程中。
引用
@article{arxiv.2206.07751,
title = {On the Identifiability of Nonlinear ICA: Sparsity and Beyond},
author = {Yujia Zheng and Ignavier Ng and Kun Zhang},
journal= {arXiv preprint arXiv:2206.07751},
year = {2024}
}
备注
NeurIPS 2022