具有相关信源的网络容量界及基于熵的分布表征
信息论
2016-07-12 v1 math.IT
摘要
刻画网络的容量区域可能极其困难。即便信源独立，确定容量区域也可能与刻画所有信息不等式这一开放问题同样困难。文献中大多数可计算的外界是基于线性规划界（Linear Programming bound）的松弛，该界涉及与信源和链路消息相关的随机变量的熵函数。当信源不独立时，问题更为复杂。将线性规划界扩展到具有相关信源的网络在很大程度上仍是开放问题。信源依赖性通常通过联合概率分布指定，而在扩展线性规划界时的主要挑战之一是通过熵函数刻画任意依赖关系的困难（或不可能）。本文通过回答熵函数能在多大程度上刻画信源间相关性这一问题来攻克该难题。我们表明，通过使用精心选择的辅助随机变量，该刻画可以相当“准确”。利用此类辅助随机变量，我们还给出了相关信源网络容量的隐式与显式外界。通过香农熵函数对相关性或联合分布的刻画也适用于其他信息度量，如Renyi熵和Tsallis熵。
引用
@article{arxiv.1607.02822,
title = {Capacity Bounds for Networks with Correlated Sources and Characterisation of Distributions by Entropies},
author = {Satyajit Thakor and Terence Chan and Alex Grant},
journal= {arXiv preprint arXiv:1607.02822},
year = {2016}
}
备注
24 pager, 1 figure, submitted to IEEE Transactions on Information Theory. arXiv admin note: text overlap with arXiv:1309.1517