低弯曲低畸变流形嵌入的收敛自编码器逼近
数值分析
2024-03-29 v2 计算机视觉与模式识别
机器学习
数值分析
摘要
自编码器由编码器和解码器组成,广泛用于机器学习中对高维数据进行降维。编码器将输入数据流形嵌入低维潜空间,而解码器表示逆映射,由潜空间中的流形给出数据流形的参数化。嵌入流形具有良好的正则性与结构可大幅简化聚类分析或数据插值等后续数据处理任务。我们提出并分析了一种用于学习自编码器编码器组件的新正则化方法:一种偏好等距、外蕴平坦嵌入的损失泛函,并允许单独训练编码器。训练时假设对于输入流形上邻近点对所,可计算其局部黎曼距离与局部黎曼平均。该损失泛函通过蒙特卡洛积分结合输入流形上点对的多种采样策略计算。我们的主要定理将嵌入映射的几何损失泛函识别为依赖于采样的损失泛函的 极限。使用编码不同显式给定数据流形的图像数据进行的数值测试表明,可获得流入形空间的平滑流形嵌入。由于促进了外蕴平坦性,这些嵌入具有足够正则性,使得流形上不太远的点之间的插值可由潜空间中的线性插值作为某种后处理而得到良好近似。
引用
@article{arxiv.2208.10193,
title = {Convergent autoencoder approximation of low bending and low distortion manifold embeddings},
author = {Juliane Braunsmann and Marko Rajković and Martin Rumpf and Benedikt Wirth},
journal= {arXiv preprint arXiv:2208.10193},
year = {2024}
}
备注
27 pages, 10 figures. This publication is an extended version of the previous conference proceeding presented at DiffCVML 2021