高斯与高斯混合的非线性变换及其对估计与信息论的启示

Paolo Banelli

高斯与高斯混合的非线性变换及其对估计与信息论的启示

信息论 2013-05-13 v3 math.IT 概率论统计理论统计理论

作者: Paolo Banelli

摘要

本文研究随机变量非线性变换 (NLT) 的统计性质，旨在为估计与信息论建立有用的工具。具体而言，本文聚焦于 NLT 输出的线性回归分析，并推导出充分的通用条件，以确定输入-输出回归系数何时等于输出关于输入中（加性）部分的偏回归系数。一个特例是由其他零均值高斯随机变量之和得到的零均值高斯输入。本文展示了这一性质如何推广到高斯混合的非线性变换的回归系数。由于其普适性，以及高斯与高斯混合在统计建模诸多现象中的广泛应用，当非线性变换输入的一部分为感兴趣的量而另一部分为噪声时，这一理论框架可在通信、估计与信息论等多个学科中找到应用。特别地，本文展示了如何利用所述性质来简化加性非高斯（可能为非线性的）信道中信噪比 (SNR)、估计均方误差 (MSE) 以及互信息界的闭合形式计算，并建立它们之间的关系。

关键词

非线性变换高斯高斯混合回归系数估计理论信息论信噪比互信息

引用

@article{arxiv.1111.5950,
  title  = {Non-Linear Transformations of Gaussians and Gaussian-Mixtures with implications on Estimation and Information Theory},
  author = {Paolo Banelli},
  journal= {arXiv preprint arXiv:1111.5950},
  year   = {2013}
}

备注

26 pages, 4 figures (8 sub-figures), submitted to IEEE Trans. on Information Theory 20th April 2013

高斯与高斯混合的非线性变换及其对估计与信息论的启示

摘要

关键词

引用

备注

相关论文