中文

VAE 中的换矩阵引起的不确定性

机器学习 2026-05-25 v1 计算机视觉与模式识别 代数几何

摘要

变分自编码器 (VAE) 常常难以表现所学习潜在空间中非交换结构。常见的对称感知 VAE 通过代数正则化来强制交换性,以适用于交换变换群,但当非交换结构是数据内在属性时,这会抑制有意义的非交换结构。我们认为,非交换性应显式诊断并反映在重构行为中。我们引入了李群 VAE 框架,将几何和代数视角结合于不确定性,同时将离散生成因子与连续几何变换分离。在第一个阶段,该模型在无结构约束下进行训练,同时通过有限巴克德-庞德-豪斯dorff 偏差和解码器顺序敏感性测量代数非交换性。这些诊断揭示了潜在非交换性与重构行为之间的尺度失配。在第二个阶段,我们引入一种带数据驱动校准常数的变形稳定性约束,以对齐解码器灵敏度与代数非交换性。我们在 dSprites、3DShapes、3DCars 和 CelebA 上对该框架进行评估,针对 generic 和对称感知基线(包括 beta-VAE、CLG-VAE 和 CFASL)进行比较。跨所有合成基准,该方法改进了重构质量,并产生更符合潜在非交换结构的解码器层面行为。定性分析显示更清晰的顺序依赖潜在组成以及更稳定的重构。在 CelebA 上,该模型在重建忠实度和因子特定潜在遍历方面优于 CFASL,同时也表现出有意义的所学习潜在方向之间的顺序依赖交互。

关键词

引用

@article{arxiv.2605.23449,
  title  = {Commutator-Induced Uncertainty in VAEs},
  author = {Tahereh Dehdarirad and Michael Felsberg and Gabriel Eilertsen and Ziliang Xiong},
  journal= {arXiv preprint arXiv:2605.23449},
  year   = {2026}
}