高斯噪声中信号估计的统计物理学：相变理论与实例
信息论
2016-11-17 v1 math.IT
摘要
我们从统计力学的角度考虑信号估计（去噪）问题，利用估计信号的最小均方误差（MMSE）与该信号及其含噪版本之间的互信息之间的关系。本文主要由两部分组成。在第一部分中，我们推导了该问题领域中几个重要量之间的若干统计力学关系，例如MMSE、微分熵、Fisher信息、自由能和广义温度概念。我们还对估计问题中的某些关系与热力学和统计物理学中的平行关系进行了类比和差异分析。在论文的第二部分中，我们提供了几个应用实例，展示了统计物理学中惯用的某些分析工具如何被证明在MMSE分析中是有用的。在大多数这些例子中，相应的统计力学系统被证明包含导致相变的强相互作用，而这些相变反过来又表现为MMSE行为中的不规则性和不连续性（类似于阈值效应）。
引用
@article{arxiv.0812.4889,
title = {Statistical Physics of Signal Estimation in Gaussian Noise: Theory and Examples of Phase Transitions},
author = {Neri Merhav and Dongning Guo and Shlomo Shamai},
journal= {arXiv preprint arXiv:0812.4889},
year = {2016}
}
备注
Submitted to the IEEE Transactions on Information Theory