中文

空间广播解码器:一种在 VAE 中学习解耦表示的简单架构

机器学习 2019-08-15 v2 计算机视觉与模式识别 机器学习

摘要

我们提出一种简单的神经渲染架构,可帮助变分自编码器(VAEs)学习解耦表示。不同于 VAEs 解码器中通常使用的反卷积网络,我们将潜向量在空间上平铺(广播),拼接固定的 X 与 Y“坐标”通道,并应用步长为 1x1 的全卷积网络。这为 VAEs 潜分布中位置与非位置特征的分离提供了架构先验,却未对此提供任何显式监督。我们表明,该我们称之为空间广播解码器的架构改善了数据空间中解耦、重建精度及对留出区域的泛化。当应用于具有小物体的数据集时,它带来尤其显著的益处。我们还强调一种可视化所学潜空间的方法,该方法帮助我们诊断模型,并可能对其他旨在评估数据表示的人有用。最后,我们表明空间广播解码器与最先进(SOTA)解耦技术互补,且纳入后可提升其性能。

关键词

引用

@article{arxiv.1901.07017,
  title  = {Spatial Broadcast Decoder: A Simple Architecture for Learning Disentangled Representations in VAEs},
  author = {Nicholas Watters and Loic Matthey and Christopher P. Burgess and Alexander Lerchner},
  journal= {arXiv preprint arXiv:1901.07017},
  year   = {2019}
}