用微扰理论研究变分自编码器的潜空间简并
机器学习
2019-07-12 v1 数据分析、统计与概率
机器学习
摘要
近年来,变分自编码器在不同机器学习任务中的使用急剧增加。它们已被发展为去噪、聚类和生成工具,在广泛领域中展现出巨大潜力。其嵌入能够从高维输入中提取相关信息,但收敛后的模型可能显著不同并导致潜空间上的简并。我们利用理论物理与机器学习之间的关系来解释此行为,并引入一种通过微扰理论修正简并的新方法。将嵌入重新表述为多维生成分布,可映射至一组新函数及其相应能谱。我们针对微扰后的哈密顿量进行优化,其中附加的能量势与数据的未观测拓扑相关。我们的结果展示了一种可用于解释无监督学习潜空间与生成性质的新理论方法的潜力,而由微扰定义的能景可进一步用于建模与动力学目的。
引用
@article{arxiv.1907.05267,
title = {Perturbation theory approach to study the latent space degeneracy of Variational Autoencoders},
author = {Helena Andrés-Terré and Pietro Lió},
journal= {arXiv preprint arXiv:1907.05267},
year = {2019}
}