相关信源的有损公共信息
信息论
2014-04-01 v1 math.IT
摘要
两种最普遍的公共信息 (CI) 概念归功于 Wyner 以及 Gacs-Korner,这两种概念均可表述为无损 Gray-Wyner 区域中的两个不同特征点。尽管针对具有无限熵的随机变量(例如连续随机变量),这两种 CI 量的信息论特征易于评估,但其操作意义仅适用于无损框架。本文的主要目标是将这两种 CI 概念推广到有损 Gray-Wyner 网络,从而将理论基础扩展至一般信源和失真度量。我们首先推导了 Wyner CI 的有损推广的单字母特征,其定义为在两个解码器在满足各自失真约束下重构信源并保持最小总发送速率时,Gray-Wyner 网络共享分支上的最小速率。为了展示其用途,我们计算了整个失真范围内二元高斯随机变量的 CI。随后,我们以类似方式将 Gacs 和 Korner 的定义推广到有损框架。论文后半部分重点研究 Gray-Wyner 网络中总发送速率与接收速率之间的权衡。我们表明,这种权衡在 Gray-Wyner 区域表面上产生了一条经过 Wyner 和 Gacs-Korner 操作点的点轮廓线,从而提供了一个统一框架来理解不同的 CI 概念。我们进一步表明,这种权衡分别将两种 CI 概念推广到了超额总发送速率和接收速率机制。
引用
@article{arxiv.1403.8093,
title = {The Lossy Common Information of Correlated Sources},
author = {Kumar Viswanatha and Emrah Akyol and Kenneth Rose},
journal= {arXiv preprint arXiv:1403.8093},
year = {2014}
}