矢量近似 Surveys 传播
信息论
2024-10-29 v2 math.IT
摘要
近似消息传递（AMP）最初设计用于求解高维线性逆问题，已在信号处理和统计推断中得到广泛应用。在其关键变体中，矢量近似消息传递（VAMP）和广义近似 Surveys 传播（GASP）即使在假设生成模型与真实模型不同的情况下也表现出有效性。然而，VAMP 和 GASP 的最大后验（MAP）版本存在局限：VAMP 仅限于可微先验和似然，而 GASP 要求测量矩阵具有独立同分布（i.i.d.）元素。为克服这些局限，本文引入一种新算法——矢量近似 Surveys 传播（VASP）。VASP 利用 surveys 传播处理不可微先验和似然，并采用矢量形式消息以考虑测量矩阵中的相关性。仿真表明，VASP 在估计精度上显著超越 VAMP 和 GASP，尤其在假设先验为离散支撑且测量矩阵为非 i.i.d. 时。此外，启发式推导的 VASP 状态演化（SE）准确反映了每次迭代的均方误差（MSE）。在单步副本对称破缺（1RSB）假设下，将 SE 与 Takahashi 和 Kabashima 计算的自由能比较表明，SE 的不动点方程与自由能的鞍点方程一致。这表明，在 1RSB 假设成立的前提下，VASP 以三次计算复杂度高效实现了所假定的 MAP 估计器（最坏情况下为 NP-hard）。
引用
@article{arxiv.2311.05111,
title = {Vector Approximate Survey Propagation},
author = {Qun Chen and Haochuan Zhang and Huimin Zhu},
journal= {arXiv preprint arXiv:2311.05111},
year = {2024}
}