中文

基于盖尔什戈林圆盘完美对齐的免投影图基分类器学习

机器学习 2022-08-22 v3

摘要

在半监督图基二分类器学习中,假设标签信号 x\mathbf{x} 相对于由拉普拉斯矩阵给定的相似图是平滑的,利用已知标签子集 x^i\hat{x}_i 推断未知标签。当限制标签 xix_i 为二值时,该问题是 NP 难的。虽然常规半定规划松弛(SDR)可使用例如交替方向乘子法(ADMM)在多项式时间内求解,但每次迭代将候选矩阵 M\mathbf{M} 投影到正半定(PSD)锥(M0\mathbf{M} \succeq 0)的复杂度仍然很高。本文利用称为盖尔什戈林圆盘完美对齐(GDPA)的近期线性代数理论,提出一种快速的免投影方法,转而求解一系列线性规划(LP)。具体而言,我们首先将 SDR 改写为其对偶,其中可行解 H0\mathbf{H} \succeq 0 被解释为对应于去掉最后一节点的平衡带符号图的拉普拉斯矩阵。为实现图平衡,我们将最后一节点拆分为两个,各自保留原有的正/负边,得到新的拉普拉斯矩阵 Hˉ\bar{\mathbf{H}}。我们重构 SDR 对偶以求解 Hˉ\bar{\mathbf{H}},然后将 PSD 锥约束 Hˉ0\bar{\mathbf{H}} \succeq 0 替换为源自 GDPA 的线性约束——确保 Hˉ\bar{\mathbf{H}} 为 PSD 的充分条件——使得优化在每次迭代中成为 LP。最后,我们从收敛解 Hˉ\bar{\mathbf{H}} 中提取预测标签。实验表明,我们的算法在保持可比标签预测性能的同时,相比次快方案实现了 28×28\times 加速。

关键词

引用

@article{arxiv.2106.01642,
  title  = {Projection-free Graph-based Classifier Learning using Gershgorin Disc Perfect Alignment},
  author = {Cheng Yang and Gene Cheung and Guangtao Zhai},
  journal= {arXiv preprint arXiv:2106.01642},
  year   = {2022}
}