一种自编码器机制框架

本文提出一种关于自编码器机制的理论框架。对于编码器部分，在主要用于降维的前提下，我们研究其两个基本性质：双射映射与数据解耦。给出了满足上述之一或两者兼有的编码器的一般构造方法。对自编码器的泛化机制进行了建模。基于上述理论框架，我们解释了变分自编码器、去噪自编码器与线性单元自编码器的一些实验结果，重点在于通过编码器对数据的低维表示进行解读；借此解释，通过自编码器进行图像复原的机制也自然得以理解。与 PCA 和决策树相比，分别展示了（广义）自编码器在降维与分类上的优势。卷积神经网络与随机权重神经网络也由该框架得到解释。