用于多模态分布对齐的层次最优传输
机器学习
2019-11-05 v2 机器学习
摘要
在许多机器学习应用中，有必要通过对齐来有意义地聚合不同但相关的数据集。基于最优传输（OT）的方法将对齐视为一个散度最小化问题：其目标是使用 Wasserstein 距离作为散度度量，将源数据集变换以匹配目标数据集。我们引入了一种层次化的 OT 公式，它利用数据中的聚类结构来改善在噪声、模糊或多模态环境下的对齐。为了在数值上求解此问题，我们提出了一种分布式 ADMM 算法，该算法也利用了 Sinkhorn 距离，因此具有高效的计算复杂度，其规模与最大聚类的尺寸成二次方关系。当两个数据集之间的变换是酉变换时，我们提供了性能保证，描述了使用我们的公式何时以及如何能够很好地恢复对齐的聚类对应关系，并为这种策略提供了最坏情况下的数据集几何结构。我们将此方法应用于模拟数据为低秩高斯混合的合成数据集，并研究了数据的不同几何特性对对齐的影响。接下来，我们将我们的方法应用于一个神经解码应用，其目标是预测猕猴初级运动皮层中神经元群体的运动方向和瞬时速度。我们的结果表明，当数据集中存在聚类结构，并且该结构在不同试验或时间点上保持一致时，利用这种结构的层次对齐策略可以在跨域对齐中提供显著的改进。
引用
@article{arxiv.1906.11768,
title = {Hierarchical Optimal Transport for Multimodal Distribution Alignment},
author = {John Lee and Max Dabagia and Eva L. Dyer and Christopher J. Rozell},
journal= {arXiv preprint arXiv:1906.11768},
year = {2019}
}