通过Burer-Monteiro分解加速核范数正则化低秩矩阵优化
机器学习
2026-02-13 v4 最优化与控制
摘要
本工作提出了一种快速算法BM-Global，用于核范数正则化的凸低秩矩阵优化问题。BM-Global利用非凸但平滑的Burer-Monteiro（BM）分解，通过低成本步骤高效地降低目标函数值，同时有效逃离BM形式中普遍存在的鞍点与伪局部极小，并通过在其上采用非周期性不精确近端梯度步，获得向原始核范数正则化问题全局最优解快速收敛的保证。所提方法自适应调整BM分解的秩，并可通过流形识别工具在优化过程中自动证明性地识别出BM分解问题的最优秩。因此，BM-Global在参数调优上比现有矩阵分解方法显著节省时间，后者需要穷举搜索以找到该最优秩。在推荐系统、正则化核估计和分子构型等真实大规模问题上的大量实验证实，BM-Global确实能有效逃离现有BM方法陷入的伪局部极小，并且比涉及核范数正则化器的低秩矩阵优化问题的最先进算法快一个数量级。基于本研究，我们已在 https://www.github.com/leepei/BM-Global/ 发布了所提BM-Global的开源包。
引用
@article{arxiv.2204.14067,
title = {Accelerating nuclear-norm regularized low-rank matrix optimization through Burer-Monteiro decomposition},
author = {Ching-pei Lee and Ling Liang and Tianyun Tang and Kim-Chuan Toh},
journal= {arXiv preprint arXiv:2204.14067},
year = {2026}
}
备注
Removed a wrong claim in Theorem 5