PH-VAE:一种面向解耦表示学习的多项式分层变分自编码器
机器学习
2025-02-14 v2
摘要
变分自编码器(VAE)是一种简单高效的生成式人工智能方法,用于对图像和文本等各种类型数据的复杂概率分布进行建模。然而,它存在一些主要缺点,例如潜在变量缺乏可解释性、训练时超参数调整困难、产生模糊且不真实的下游输出或因损失函数计算和数据分布恢复方式导致的信息丢失、过拟合,以及小数据集上的原点引力效应等问题。这些及其他局限性导致其对具有复杂分布的数据生成效果不佳。在这项工作中,我们提出并开发了一种多项式分层变分自编码器(PH-VAE),其中我们使用多项式分层数据格式来生成或重建数据分布。为此,我们还在损失函数中提出了一种新颖的多项式散度,以替代或推广Kullback-Leibler(KL)散度,从而在保持数据集大小不变但捕获数据精细分辨率的同时,系统性地大幅提升了重建分布函数的准确性和可复现性,以及重建数据图像的质量。此外,我们证明了所提出的PH-VAE具有一定形式的解耦表示学习能力。
引用
@article{arxiv.2502.02856,
title = {PH-VAE: A Polynomial Hierarchical Variational Autoencoder Towards Disentangled Representation Learning},
author = {Xi Chen and Shaofan Li},
journal= {arXiv preprint arXiv:2502.02856},
year = {2025}
}
备注
15 pages,14 figures