基于 Bures-Wasserstein 几何在对称正定矩阵上做黎曼优化的研究
最优化与控制
2021-06-02 v1 机器学习
摘要
在本文中，我们比较分析了用于对称正定（SPD）矩阵流形上黎曼优化的 Bures-Wasserstein（BW）几何与流行的仿射不变（AI）几何。我们的研究始于一个观察：BW 度量对 SPD 矩阵具有线性依赖，而 AI 度量具有二次依赖。我们在此基础上证明，对于病态 SPD 矩阵上的若干黎曼优化问题，BW 度量是更合适且鲁棒的选择。我们证明 BW 几何具有非负曲率，这进一步改善了相较于非正曲率 AI 几何上算法的收敛速率。最后，我们验证了若干已知在 AI 几何下为测地凸的流行代价函数，在 BW 几何下同样为测地凸。在各种应用上的大量实验支持了我们的发现。
引用
@article{arxiv.2106.00286,
title = {On Riemannian Optimization over Positive Definite Matrices with the Bures-Wasserstein Geometry},
author = {Andi Han and Bamdev Mishra and Pratik Jawanpuria and Junbin Gao},
journal= {arXiv preprint arXiv:2106.00286},
year = {2021}
}