中文

通过 Gershgorin 圆盘完美对齐的带符号图度量学习

机器学习 2021-06-14 v6 机器学习

摘要

给定正定(PD)锥中实对称矩阵 \M\M 的凸可微目标 Q(\M)Q(\M)——用于计算马氏距离——我们提出一个完全无投影的快速通用度量学习框架。我们首先假设 \M\M 位于对应平衡带符号图的广义图拉普拉斯矩阵空间 \cS\cS 中。既属于 \cS\cS 又正定的 \M\M 称为图度量矩阵。与文献中常见的低秩度量矩阵不同,\cS\cS 将重要的仅对角矩阵作为特例包含在内。规避完全特征分解并实现快速度量矩阵优化的关键定理是 Gershgorin 圆盘完美对齐(GDPA):给定 \M\cS\M \in \cS 和对角矩阵 §\S,其中 Sii=1/viS_{ii} = 1/v_i\v\M\M 的第一特征向量,我们证明相似变换 \B=§\M§1\B = \S \M \S^{-1} 的 Gershgorin 圆盘左端在最小特征值 λmin\lambda_{\min} 处完美对齐。利用该定理,我们将度量学习问题中的 PD 锥约束替换为每次迭代最紧的线性约束,从而 \M\M 中对角/非对角项的交替优化可作为线性规划通过 Frank-Wolfe 方法高效求解。我们使用带热启动的局部最优块预条件共轭梯度(LOBPCG)更新 \v,因为 \M\M 中的条目被依次优化。实验表明,我们的图度量优化比锥投影方案显著更快,并产生有竞争力的二分类性能。

关键词

引用

@article{arxiv.2006.08816,
  title  = {Signed Graph Metric Learning via Gershgorin Disc Perfect Alignment},
  author = {Cheng Yang and Gene Cheung and Wei Hu},
  journal= {arXiv preprint arXiv:2006.08816},
  year   = {2021}
}

备注

code available: https://github.com/bobchengyang/SGML