松弛指示矩阵流形上的黎曼优化

指示矩阵在机器学习中发挥重要作用，但对其进行优化是 NP-hard问题。我们提出了指示矩阵的一种新型松弛方案，并证明该松弛形式构成了一个流形，我们将其称为松弛指示矩阵流形（RIM 流形）。基于黎曼几何，我们开发了一个用于在 RIM 流形上进行优化的黎曼工具包。具体而言，我们提供了几种 Retraction 方法，包括一种快速获取测地线的方法。我们指出，RIM 流形是双随机矩阵流形的推广形式，优化其复杂度为 $\mathcal{O}(n)$，而双随机矩阵流形上的现有方法复杂度为 $\mathcal{O}(n^3)$，且往往能获得更好的结果。我们进行了大量实验，包括运动数百万变量的图像去噪，以支持我们的结论，并将 RIM 流形应用于 Ratio Cut，我们提供了严格的收敛证明并实现了超越当前最先进方法的聚类结果。我们的代码在这里提供。