ProtoVAE:用于无监督解耦的原型网络
机器学习
2023-05-17 v1 计算机视觉与模式识别
摘要
生成建模与自监督学习近年来在完全无监督地从数据中学习方面取得了巨大进展。然而,引导神经网络将编码为可解释或可说明的表示仍是一个开放的研究领域。无监督解耦问题尤为重要,因其主张仅从数据本身发现不同的潜在变异因子或语义概念,无需标注样本,并将其编码为结构 disjoint 的潜在表示。若网络中不施加额外约束或归纳偏置,生成模型虽可学习数据分布并编码因子,却未必以解耦方式。在此,我们提出一种新颖的基于 VAE 的深度生成模型 ProtoVAE,其利用以自监督训练的深层度量学习原型网络来施加这些约束。该原型网络约束表示空间到数据空间的映射,确保表示空间中的受控变化被映射到数据空间中变异因子的变化。我们的模型完全无监督,且不需要数据集的先验知识,包括因子数量。我们在基准 dSprites、3DShapes 与 MPI3D 解耦数据集上评估所提模型,通过潜在空间的定性遍历以及定量解耦指标,展现出相较先前方法的最优结果。我们进一步在真实世界 CelebA 数据集上定性展示了模型的有效性。
引用
@article{arxiv.2305.09092,
title = {ProtoVAE: Prototypical Networks for Unsupervised Disentanglement},
author = {Vaishnavi Patil and Matthew Evanusa and Joseph JaJa},
journal= {arXiv preprint arXiv:2305.09092},
year = {2023}
}