中文

具有不可分函数的近似消息传递的状态演化

信息论 2017-08-15 v1 math.IT

摘要

给定高维数据矩阵 ARm×n{\boldsymbol A}\in{\mathbb R}^{m\times n},近似消息传递(AMP)算法通过迭代应用 A{\boldsymbol A}AT{\boldsymbol A}^{{\sf T}} 以及取决于特定应用的合适非线性函数,构造由 t{0,1,2}t\in\{0,1,2\dots\} 索引的向量序列 utRn{\boldsymbol u}^t\in{\mathbb R}^nvtRm{\boldsymbol v}^t\in{\mathbb R}^m。这种方法的一些特例已在其他应用中开发,用于压缩感知重建、稳健回归、贝叶斯估计、低秩矩阵恢复、相位恢复和图中的社区检测。对于某些类别的随机矩阵 A{\boldsymbol A},AMP 在高维极限 m,nm,n\to\infty 下具有渐近精确的描述,即所谓的“状态演化”。早期的工作(在某些正则性条件下)建立了可分非线性的状态演化。然而,实证工作表明有几个重要的应用需要不可分函数。在本文中,我们将状态演化推广到 Lipschitz 连续的不可分非线性,适用于高斯矩阵 A{\boldsymbol A}。我们的证明利用了 Bolthausen 条件技术以及几个近似论证。特别是,我们引入了一种改进的算法(称为 LAMP,即 Long AMP),该算法具有独立的意义。

关键词

引用

@article{arxiv.1708.03950,
  title  = {State Evolution for Approximate Message Passing with Non-Separable Functions},
  author = {Raphael Berthier and Andrea Montanari and Phan-Minh Nguyen},
  journal= {arXiv preprint arXiv:1708.03950},
  year   = {2017}
}

备注

41 pages, 4 figures