中文

图谱估计的谱方法收敛速率

机器学习 2017-09-12 v1 机器学习 社会与信息网络 统计理论 统计理论

摘要

本文研究图谱模型——网络底层生成机制的估计问题。图谱估计出现在许多应用中,例如预测网络中的缺失链接和学习推荐系统中的用户偏好。图谱模型处理一个具有 nn 个顶点的随机图,使得每对顶点 iijj 以概率 ρ×f(xi,xj)\rho \times f(x_i,x_j) 独立连接,其中 xix_i 是顶点 ii 的未知 dd 维标签,ff 是一个未知的对称函数,ρ\rho 是表征图稀疏性的缩放参数。最近的研究已经确定了从随机图的单次实现中估计图谱的极小极大误差率。然而,计算上高效的估计过程的已知误差率与极小极大最优误差率之间存在很大差距。在此,我们分析了一种谱方法,即通用奇异值阈值(USVT)算法,在平均顶点度 nρ=Ω(logn)n\rho=\Omega(\log n) 的相对稀疏区域。当 ff 属于光滑指数为 α\alpha 的 Hölder 或 Sobolev 空间时,我们证明 USVT 的误差率至多为 (nρ)2α/(2α+d)(n\rho)^{ -2 \alpha / (2\alpha+d)},随着 α\alpha 增加,对于 d=1d=1 趋近于极小极大最优误差率 log(nρ)/(nρ)\log (n\rho)/(n\rho)。此外,当 ff 是解析函数时,我们证明 USVT 的误差率至多为 logd(nρ)/(nρ)\log^d (n\rho)/(n\rho)。在具有 kk 个块的随机块模型的特例中,USVT 的误差率至多为 k/(nρ)k/(n\rho),这比极小极大最优误差率最多大一个乘性因子 k/logkk/\log k。这与社区发现中观察到的计算差距一致。我们分析的一个关键步骤是使用图谱函数 ff 的分段多项式逼近来推导边概率矩阵的特征值衰减率。

关键词

引用

@article{arxiv.1709.03183,
  title  = {Rates of Convergence of Spectral Methods for Graphon Estimation},
  author = {Jiaming Xu},
  journal= {arXiv preprint arXiv:1709.03183},
  year   = {2017}
}