流形上基于图册的表示与度量学习
机器学习
2021-06-15 v1 机器学习
摘要
我们探索将拓扑流形（表示为一族图表）用作基于神经网络的表示学习任务的目标空间。这通过对编码器网络架构输出的简单调整，加上基于最大均值差异（MMD）的正则化损失函数来实现。多数表示与度量学习算法易于适配我们的框架，我们通过调整 SimCLR（用于表示学习）与标准三元组损失训练（用于度量学习）使其具有流形编码空间来展示其有效性。我们的实验表明，对于低维编码，相较基线我们获得了显著的性能提升。在三元组训练的情形中，我们还发现，独立于流形设置，仅 MMD 损失（即保持平坦欧几里得目标空间但用 MMD 损失正则化之）在典型的高维欧几里得目标空间中也提升了相较基线的性能。复现实验的代码见 https://github.com/ekorman/neurve 。
引用
@article{arxiv.2106.07062,
title = {Atlas Based Representation and Metric Learning on Manifolds},
author = {Eric O. Korman},
journal= {arXiv preprint arXiv:2106.07062},
year = {2021}
}
备注
15 pages