学习数据中的对称性

我们研究了数据中存在的对称性如何影响变分自编码器（VAEs）所学习潜在空间的结构。通过在源自简单机械系统和粒子碰撞的数据上训练 VAE，我们通过一种相关性度量衡量来分析潜在空间的组织，该度量衡量识别最具意义的潜在方向。我们展示，当对称性或近似对称性存在时，VAE 会自主组织其潜在空间，通过压缩到 reduced 数量的潜在变量来实现。这一行为捕捉了由对称性约束决定的内在维度，并揭示了特征之间的隐藏关系。此外，我们为一个简单的玩具模型提供了理论分析，表明在理想化条件下，潜在空间与数据流形的对称方向对齐。我们以从二维具有 O(2) 对称性的数据到来自电子-正电子和质子-质子碰撞的真实数据集为例，展示了这些发现。我们的结果凸显了无监督生成模型暴露数据中底层结构的潜力，并为无需显式监督的对称性发现提供了一种新方法。