利用条件变分自编码器学习流形维度
机器学习
2023-06-16 v2 人工智能
机器学习
摘要
尽管变分自编码器（VAE）及其条件扩展（CVAE）能在多个领域取得最先进结果，其精确行为仍未被完全理解，特别是在数据（如图像）位于或接近低维流形时。例如，虽有先前工作表明全局最优 VAE 解可学习正确的流形维度——这是从真实数据分布生成样本的必要（非充分）条件——但从未被严格证明。此外，当引入各类条件变量，或数据支撑扩展为流形之并时（如 MNIST 数字及相关情况可能如此），此类考量将如何变化仍不清楚。本工作中，我们首先证明 VAE 全局极小确实能恢复正确流形维度，从而解决上述要点。我们将该结果推广至更一般的 CVAE，展示了条件变量使模型能跨样本自适应学习不同维度流形的实际场景。我们的分析对多种 CVAE 设计选择具有实际意义，并得到合成与真实世界数据集数值结果的支持。
引用
@article{arxiv.2302.11756,
title = {Learning Manifold Dimensions with Conditional Variational Autoencoders},
author = {Yijia Zheng and Tong He and Yixuan Qiu and David Wipf},
journal= {arXiv preprint arXiv:2302.11756},
year = {2023}
}
备注
Published in NeurIPS 2022