带雅可比秩约束流形学习问题的自编码器
机器学习
2023-06-27 v1
摘要
我们将流形学习问题表述为寻找一个算子的任务，该算子将任意点映射到位于“隐藏的” 维流形上的邻近点。我们称此算子为校正函数。在此表述下，自编码器可视为逼近校正函数的工具。给定雅可比矩阵秩为 的自编码器，由经典常秩定理可推得其值域具有 维流形结构。 维值域可由自编码器架构强制实现（通过固定码空间维度），或者 alternatively，由自编码器映射秩不大于 的附加约束强制实现。该约束作为新项即雅可比函数的平方Ky-Fan -反范数被纳入目标函数。我们主张此约束是有效降低自编码器值域维度的因素，此外于架构定义的降维之外。我们还在目标中加入了新的曲率项。最后，我们在合成与真实数据集上以实验将我们的方法与CAE+H方法比较。
引用
@article{arxiv.2306.14194,
title = {Autoencoders for a manifold learning problem with a Jacobian rank constraint},
author = {Rustem Takhanov and Y. Sultan Abylkairov and Maxat Tezekbayev},
journal= {arXiv preprint arXiv:2306.14194},
year = {2023}
}