二次可分解次模函数最小化:理论与实践(超图上PageRank的计算与分析)
机器学习
2020-10-27 v4 数据结构与算法
社会与信息网络
机器学习
摘要
我们引入一个新的凸优化问题,称为二次可分解次模函数最小化(QDSFM),其允许对图和超图上的若干学习任务进行建模。该问题与可分解次模函数最小化(DSFM)有紧密联系,但求解难度更大。我们通过一种新的对偶策略处理该问题,并构建一个可通过若干双循环算法优化的目标函数。外循环使用随机坐标下降(RCD)或交替投影(AP)方法,我们对两者均证明了线性收敛速率。内循环通过改进的极小范数点或Frank-Wolfe算法计算到由次模函数的基多面体生成的锥上的投影。我们还描述了QDSFM的两个新应用:超图适配的PageRank和半监督学习。所提出的基于超图的PageRank算法可用于局部超图划分,并带有可证明的性能保证。对于超图适配的半监督学习,我们提供了数值实验,证明了我们的QDSFM求解器的高效性,以及相较于最先进方法在预测精度上的显著提升。
引用
@article{arxiv.1902.10132,
title = {Quadratic Decomposable Submodular Function Minimization: Theory and Practice (Computation and Analysis of PageRank over Hypergraphs)},
author = {Pan Li and Niao He and Olgica Milenkovic},
journal= {arXiv preprint arXiv:1902.10132},
year = {2020}
}
备注
A part of the work appeared in NeurIPS 2018. The current version is to appear in JMLR (Revise some typos). arXiv admin note: substantial text overlap with arXiv:1806.09842