近似消息传递的信息几何解释

Bingyan Liu; An-An Lu; Mingrui Fan; Jiyuan Yang; Xiqi Gao

近似消息传递的信息几何解释

信息论 2024-08-14 v1 math.IT

作者: Bingyan Liu , An-An Lu , Mingrui Fan , Jiyuan Yang , Xiqi Gao

摘要

在本文中，我们提出了一个信息几何框架来解决标准线性回归问题。所提出的框架是计算复多元高斯分布均值的框架的扩展。通过应用该框架，推导出了标准线性回归中基追踪去噪的信息几何方法（IGA）和近似信息几何方法（AIGA）。该框架也可应用于其他标准线性回归问题。通过高斯分布的自然参数和期望参数的变换，我们随后展示了 IGA 与消息传递算法之间的关系。最后，我们证明了 AIGA 等价于近似消息传递算法。这些内在结果为近似消息传递算法提供了新视角，并为理解和改进随机推理方法提供了线索。

关键词

信息几何近似消息传递线性回归基追踪去噪高斯分布消息传递

引用

@article{arxiv.2408.06907,
  title  = {An Information Geometry Interpretation for Approximate Message Passing},
  author = {Bingyan Liu and An-An Lu and Mingrui Fan and Jiyuan Yang and Xiqi Gao},
  journal= {arXiv preprint arXiv:2408.06907},
  year   = {2024}
}

备注

30 pages, 5 figures

近似消息传递的信息几何解释

摘要

关键词

引用

备注

相关论文