Half-VAE：一种无需显式逆映射的编码器-free VAE
机器学习
2024-09-17 v2 机器学习
摘要
推断与逆问题密切相关，两者都本质上涉及从观测数据推断未知原因或参数。贝叶斯推断是一类强大的工具，常用于解决各种问题，包括因果推断相关问题。变分推断是贝叶斯推断的一个子集，主要用于高效逼近复杂后验分布。变分自编码器 (VAE) 将变分推断与深度学习结合，已在 various 领域广泛应用。本研究探讨了在不依赖显式逆映射过程的情况下使用 VAE 求解逆问题（如独立成分分析，ICA）的潜力。不同于其他基于 VAE 的 ICA 方法，本方法抛弃 VAE 架构中的编码器，直接将潜在变量设为可训练参数。也就是说，潜在变量不再是编码器的输出，而是通过目标函数直接优化以收敛到适当的值。我们发现，在合适的先验设置下，代表潜在变量的可训练参数在收敛后可表现出互为独立的特性，而无需编码过程。这种方法被称为 Half-VAE，通过消除编码器来绕过逆映射过程。本研究证明了使用 Half-VAE 在不需要显式逆映射过程的情况下求解 ICA 的可行性。
引用
@article{arxiv.2409.04140,
title = {Half-VAE: An Encoder-Free VAE to Bypass Explicit Inverse Mapping},
author = {Yuan-Hao Wei and Yan-Jie Sun and Chen Zhang},
journal= {arXiv preprint arXiv:2409.04140},
year = {2024}
}