Lee-Seung 正半定分解算法的一个非交换推广

给定具有非负元素的矩阵 $X\in \mathbb{R}_+^{m\times n}$，其正半定 (PSD) 分解是一组 $r \times r$ 维 PSD 矩阵 $\{A_i\}$ 与 $\{B_j\}$，满足对所有 $\ i\in [m],\ j\in [n]$ 有 $X_{ij}= \mathrm{tr}(A_i B_j)$。PSD 分解从根本上与理解半定规划的表达能力以及信息论中量子资源的能力与局限相关联。PSD 分解任务推广了非负矩阵分解 (NMF) 问题——后者寻求一组 $r$ 维非负向量 $\{a_i\}$ 与 $\{b_j\}$ 满足对所有 $i\in [m],\ j\in [n]$ 有 $X_{ij}= a_i^\top b_j$——通过选取 PSD 分解中的矩阵为对角矩阵即可恢复后者问题。计算矩阵 NMF 最广泛使用的算法是由 Lee 与 Seung 提出的乘法更新算法，其中非负性通过用正对角矩阵缩放得以保持。本文描述了 Lee-Seung 算法的一个非交换推广，称之为矩阵乘法更新 (MMU) 算法，用于计算 PSD 分解。MMU 算法通过用适当 PSD 矩阵的矩阵几何平均进行相合缩放，确保更新保持 PSD，并保留了 Lee-Seung 算法的实现简洁性。基于优化最小化 (Majorization-Minimization) 框架，我们表明在该更新方案下平方损失目标函数非增且不动点对应于临界点。该分析依赖于 Lieb 凹性定理。除 PSD 分解外，我们将 MMU 算法作为原语用于计算块对角 PSD 分解与张量 PSD 分解。我们通过真实与合成数据上的实验展示了方法的效用。