面向流形结构数据的图表自编码器
机器学习
2020-08-17 v2 机器学习
摘要
深度生成模型在图像与信号表示学习及生成方面取得了巨大进展。这些模型采用完整欧氏空间或有界子集作为潜空间，然而其平坦几何往往过于简单，难以有意义地反映数据的流形结构。本工作中，我们主张使用多图表潜空间以获得更好的数据表示。受微分几何启发，我们提出\textbf{图表自编码器 (CAE)}，并证明其表示能力的通用逼近定理。我们表明训练数据规模与网络规模在逼近误差上以依赖于数据流形内蕴维数的指数为尺度呈指数增长。CAE 具备平坦潜空间自编码器所不满足的合意流形性质，主要是数据的邻近性。我们通过合成与真实案例的广泛实验表明，CAE 提供高保真重建、在潜空间中保持邻近性，并生成靠近流形的新数据。这些实验显示，CAE 在保持数据流形拓扑与几何方面优于现有自编码器及其变体。
引用
@article{arxiv.1912.10094,
title = {Chart Auto-Encoders for Manifold Structured Data},
author = {Stefan Schonsheck and Jie Chen and Rongjie Lai},
journal= {arXiv preprint arXiv:1912.10094},
year = {2020}
}
备注
22 pages, 12 figures