非负变分自编码器：广义伽马信念网络
机器学习
2024-08-16 v2 人工智能
计算机视觉与模式识别
摘要
伽马信念网络（GBN），常被视为深度主题模型，已展示其在文本数据中揭示多层可解释潜在表示的潜力。其获取可解释潜在因子的显著能力部分归因于稀疏且非负的伽马分布潜在变量。然而，现有的GBN及其变体受限于线性生成模型，从而限制了其表达能力和适用性。为解决这一局限，本文引入了广义伽马信念网络（Generalized GBN），将原始线性生成模型扩展为更具表达力的非线性生成模型。由于广义GBN的参数不再具有解析条件后验，我们进一步提出了向上-向下Weibull推理网络来近似潜在变量的后验分布。生成模型和推理网络的参数在变分推断框架内联合训练。最后，我们在表达能力和解耦表示学习任务上进行了全面实验，以评估广义GBN相对于作为基线的最先进高斯变分自编码器的性能。
引用
@article{arxiv.2408.03388,
title = {A Non-negative VAE:the Generalized Gamma Belief Network},
author = {Zhibin Duan and Tiansheng Wen and Muyao Wang and Bo Chen and Mingyuan Zhou},
journal= {arXiv preprint arXiv:2408.03388},
year = {2024}
}