中文

基于模约简测量的尖峰协方差估计

信息论 2022-05-20 v3 math.IT 统计理论 机器学习 统计理论

摘要

考虑秩-1 尖峰模型:X=νξu+Z\bf{X}=\sqrt{\nu}\xi \bf{u}+ \bf{Z},其中 ν\nu 为尖峰强度,uSk1\bf{u}\in\mathbb{S}^{k-1} 为未知方向且 ξN(0,1),ZN(0,I)\xi\sim \mathcal{N}(0,1),\bf{Z}\sim \mathcal{N}(\bf{0},\bf{I})。受模数转换近期进展的启发,我们研究从 nn 个独立同分布的模约简测量 Y=[X]modΔ\bf{Y}=[\bf{X}]\mod \Delta 中恢复 uSk1\bf{u}\in \mathbb{S}^{k-1} 的问题,聚焦于高维 regime(k1k\gg 1)。我们开发并分析了一种算法,对于大多数方向 u\bf{u}ν=poly(k)\nu=\mathrm{poly}(k),该算法使用 n=poly(k)n=\mathrm{poly}(k) 个测量以高精度估计 u\bf{u},前提是 Δlogk\Delta\gtrsim \sqrt{\log k}。在常数因子范围内,我们的算法在允许(在信息论意义上)从 Y\bf{Y} 恢复 X\bf{X} 的最小可能 Δ\Delta 处准确估计 u\bf{u}。我们分析中的一个关键步骤涉及估计长度为 ν\approx\sqrt{\nu} 的随机方向 u\bf{u} 线段经过格点 ΔZk\Delta \mathbb{Z}^k 中某点附近的概率。数值实验表明所开发算法在非渐近设定下也表现良好。

关键词

引用

@article{arxiv.2110.01150,
  title  = {Spiked Covariance Estimation from Modulo-Reduced Measurements},
  author = {Elad Romanov and Or Ordentlich},
  journal= {arXiv preprint arXiv:2110.01150},
  year   = {2022}
}

备注

AISTATS, 2022