基于联合潜空间能量先验的分层特征学习
机器学习
2023-10-17 v1 计算机视觉与模式识别
摘要
本文研究多层生成器模型在学习分层表示中的基本问题。由多层潜变量以自顶向下架构组织的多层生成器模型倾向于学习多层次的数据抽象。然而,此类多层潜变量通常被参数化为高斯分布,在捕捉复杂抽象时信息量较少,导致分层表示学习成效有限。另一方面,能量基(EBM)先验已知在捕捉数据规律性方面具有表现力,但往往缺乏捕捉不同层次分层表示的分层结构。本文提出一种具有多层潜变量的联合潜空间 EBM 先验模型,以有效进行分层表示学习。我们开发了变分联合学习方案,无缝集成推断模型以实现高效推断。实验表明,所提联合 EBM 先验在捕捉分层表示与建模数据分布方面有效且具有表现力。
引用
@article{arxiv.2310.09604,
title = {Learning Hierarchical Features with Joint Latent Space Energy-Based Prior},
author = {Jiali Cui and Ying Nian Wu and Tian Han},
journal= {arXiv preprint arXiv:2310.09604},
year = {2023}
}