中文

VAE解耦中重构损失被忽视的影响

机器学习 2023-10-27 v3 人工智能 计算机视觉与模式识别

摘要

利用变分自编码器(VAEs)学习解耦表示通常归因于损失的正则化部分。在本工作中,我们强调数据与损失的重构项之间的相互作用是VAEs中解耦的主要贡献因素。我们表明,标准基准数据集在其主观真实因子与根据典型VAE重构损失所感知的数据轴之间存在非预期的相关性。我们的工作利用这种关系,为在给定重构损失下什么构成对抗性数据集提供了理论。我们通过构建一个示例数据集来验证这一点,该数据集在保持人类直观的真实因子的同时,阻止了最先进框架中的解耦。最后,我们通过设计一个能够再次感知真实因子的示例重构损失来重新实现解耦。我们的发现证明了解耦的主观性,以及考虑真实因子、数据尤其是重构损失之间相互作用的重要性,而这一点在文献中未被充分认识到。

关键词

引用

@article{arxiv.2202.13341,
  title  = {Overlooked Implications of the Reconstruction Loss for VAE Disentanglement},
  author = {Nathan Michlo and Richard Klein and Steven James},
  journal= {arXiv preprint arXiv:2202.13341},
  year   = {2023}
}

备注

13 pages, 12 figures, 4 tables