使用全编码器学习稳定表示
机器学习
2021-07-14 v2 人工智能
摘要
尽管 beta-VAE 系列旨在寻找解耦表示并获取人类可解释的生成因子，如同线性域中的 ICA 所做的那样，我们提出全编码器（Full Encoder），一种新颖的统一自编码器框架，作为非线性域中 PCA 的对应物。其思想是首先训练一个具有单个潜变量的自编码器，然后逐步引入更多潜变量以精炼重建结果。全编码器也是一种潜变量预测模型，其所获潜变量稳定且鲁棒，因为无论网络初始状态如何，它们总是学习到相同表示。全编码器可用于确定简单非线性系统中的自由度，并可应用于数据压缩或异常检测。全编码器也可与 beta-VAE 框架结合以梳理生成因子的重要性，为非线性系统分析提供更多洞见。这些特性将使 FE 有助于分析实际工业非线性系统。为验证，我们构建了一个由定制非线性系统生成的玩具数据集来测试它，并将其性质与 VAE 和 beta-VAE 的性质进行比较。
引用
@article{arxiv.2103.14082,
title = {Learning Stable Representations with Full Encoder},
author = {Zhouzheng Li and Kun Feng},
journal= {arXiv preprint arXiv:2103.14082},
year = {2021}
}