从绿色 AI 视角对变分自编码器的综述
机器学习
2021-03-02 v1 神经与进化计算
摘要
变分自编码器(Variational AutoEncoders, VAEs)是强大的生成模型,其将统计学与信息论的元素与深度神经网络所提供的灵活性相融合,以高效解决高维数据的生成问题。VAE 的核心洞见在于学习数据的潜变量分布,从而可从中生成新的有意义样本。该方法引发了 VAE 架构设计上的大量研究与变体,滋养了被称为无监督表示学习的近期研究领域。在本文中,我们对一些最成功、近期的 VAE 变体进行了比较评估。我们特别聚焦于不同模型的能效,秉持所谓绿色 AI(Green AI)的精神,旨在同时降低生成技术的碳足迹与财务成本。对于每种架构,我们给出了其数学表述、设计背后的思想、详细的模型描述、可运行实现以及定量结果。
引用
@article{arxiv.2103.01071,
title = {A survey on Variational Autoencoders from a GreenAI perspective},
author = {A. Asperti and D. Evangelista and E. Loli Piccolomini},
journal= {arXiv preprint arXiv:2103.01071},
year = {2021}
}