高效且可证最优的聚类及其在潜变量图模型中的应用

受将 $d$ 个变量或 $d$ 个点聚类为 $K$ 组这一任务的驱动，我们研究了求解 Peng-Wei (P-W) $K$-均值半定规划 (SDP) 松弛的高效算法。文献已表明 P-W SDP 在多种设定下具有良好的统计性质，但在实践中仍难以求解。为此我们提出 FORCE，一种求解该 SDP 松弛的新算法。与朴素内点法相比，我们的方法将求解 SDP 的计算复杂度从 $\tilde{O}(d^7\log\epsilon^{-1})$ 降至 $\tilde{O}(d^{6}K^{-2}\epsilon^{-1})$ 次算术运算以获得 $\epsilon$-最优解。我们的方法将原始一阶方法与对偶最优性证书搜索相结合，若搜索成功，则可提前终止原始方法。我们对某些变量聚类问题证明，FORCE 以高概率保证找到 SDP 松弛的最优解并提供精确最优性证书。如我们的数值实验所验证，这使得 FORCE 能在数十秒内求解维度达数百的 P-W SDP。对于 $K$ 非先验已知的 P-W SDP 变体，FORCE 的轻微改进也降低了该问题的求解复杂度：从使用标准 SDP 求解器的 $\tilde{O}(d^7\log\epsilon^{-1})$ 降至 $\tilde{O}(d^{4}\epsilon^{-1})$。