中文

低期望秩随机矩阵的特征向量逐元素分析

统计理论 2019-05-06 v2 概率论 统计理论

摘要

通过特征向量扰动分析恢复低秩结构是统计机器学习中的一个常见问题,例如因子分析、社区发现、排序、矩阵补全等。尽管已有大量关于特征向量经验统计量与总体统计量之间平均误差的界,但很少有结果对逐元素分析是紧的,而逐元素分析对社区发现等许多问题至关重要。本文研究了一大类期望为低秩的随机矩阵的特征向量逐元素行为,这有助于解决 Abbe 等 (2014b) 的猜想,即谱算法无需任何修剪或清洗步骤即可在随机块模型中实现精确恢复。关键在于 \ell_\infty 范数下特征向量的一阶近似:ukAukλk,u_k \approx \frac{A u_k^*}{\lambda_k^*}, 其中 {uk}\{u_k\}{uk}\{u_k^*\} 分别为随机矩阵 AA 及其期望 EA\mathbb{E} A 的特征向量。该近似对 AA 既紧又线性的事实,使得 uku_kuku_k^* 之间的精确比较成为可能。特别地,即使 ukuk\| u_k - u_k^*\|_{\infty} 很大,它也允许比较 uku_kuku_k^* 的符号。结果进一步推广到特征空间的扰动,为同步问题(Z2\mathbb{Z}_2-spiked Wigner 模型)和含噪矩阵补全给出了新的 \ell_\infty 型界。

关键词

引用

@article{arxiv.1709.09565,
  title  = {Entrywise Eigenvector Analysis of Random Matrices with Low Expected Rank},
  author = {Emmanuel Abbe and Jianqing Fan and Kaizheng Wang and Yiqiao Zhong},
  journal= {arXiv preprint arXiv:1709.09565},
  year   = {2019}
}

备注

58 pages, 7 figures