在依赖变化因子下重新思考解缠

表示学习是一种从数据中发现并提取变化因子的方法。直观上，如果一种表示能以人类可理解的方式分离不同的变化因子，则称其为解缠的。解缠的定义及其度量通常假设变化因子彼此独立。然而，这在现实世界中通常不成立，从而限制了这些定义和度量在非常特定和不现实场景中的使用。本文给出了一种基于信息论的解缠定义，该定义在变化因子不独立时同样有效。此外，我们将该定义与信息瓶颈方法相关联。最后，我们提出了一种从给定定义出发测量解缠程度的方法，该方法在变化因子不独立时同样有效。我们通过不同实验表明，本文提出的方法能正确度量非独立变化因子下的解缠程度，而其他方法在此场景下失效。