Gromov-Wasserstein 自编码器
机器学习
2023-02-27 v2 计算机视觉与模式识别
摘要
基于变分自编码器（VAE）的生成模型通过引入元先验（被认为对下游任务有益的通用前提）提供了灵活的表示学习。然而，所引入的元先验常涉及对原始似然架构的临时模型偏离，导致其训练发生不期望的改变。本文提出一种新颖的表示学习方法——Gromov-Wasserstein 自编码器（GWAE），其利用变分自编码框架直接匹配潜变量与数据分布。GWAE 模型最小化可训练先验与给定数据分布之间的 Gromov-Wasserstein（GW）度量，而非基于似然的目标。GW 度量衡量即便维度不同的分布之间面向距离结构的差异，为潜空间与数据空间之间提供了直接度量。通过限制先验族，我们可以在不改变目标的情况下将元先验引入潜空间。与基于 VAE 的模型的实证比较表明，GWAE 模型在解耦与聚类两种显著元先验下均能以不变的 GW 目标工作。
引用
@article{arxiv.2209.07007,
title = {Gromov-Wasserstein Autoencoders},
author = {Nao Nakagawa and Ren Togo and Takahiro Ogawa and Miki Haseyama},
journal= {arXiv preprint arXiv:2209.07007},
year = {2023}
}
备注
38 pages, 9 tables, 13 figures; accepted at ICLR2023