中文

具有记忆与传输代价的信道反馈容量的信息结构:随机最优控制与变分等式-第一部分

信息论 2016-08-22 v2 math.IT

摘要

有限传输反馈信息(FTFI)容量针对任意一类信道条件分布{PBiBi1,Ai:i=0,1,,n}\big\{{\bf P}_{B_i|B^{i-1}, A_i} :i=0, 1, \ldots, n\big\}{PBiBiMi1,Ai:i=0,1,,n}\big\{ {\bf P}_{B_i|B_{i-M}^{i-1}, A_i} :i=0, 1, \ldots, n\big\}进行了表征,其中MM为信道记忆,Bn={Bj:j=,0,1,,n}B^n {\stackrel{\triangle}{=}} \{B_j: j=\ldots, 0,1, \ldots, n\}为信道输出,An={Aj:j=,0,1,,n}A^n{\stackrel{\triangle}{=}} \{A_j: j=\ldots, 0,1, \ldots, n\}为信道输入。FTFI容量的表征首先通过识别最优信道输入条件分布P[0,n]={PAiAi1,Bi1:i=0,,n}{\cal P}_{[0,n]} {\stackrel{\triangle}{=}} \big\{ {\bf P}_{A_i|A^{i-1}, B^{i-1}}: i=0, \ldots, n\big\}的信息结构获得,这些条件分布最大化有向信息。主要定理指出,对于任意具有记忆MM的信道,最优信道输入条件分布出现在满足条件独立性的子集中P[0,n]={PAiAi1,Bi1=PAiBiMi1:i=1,,n}\stackrel{\circ}{\cal P}_{[0,n]}{\stackrel{\triangle}{=}} \big\{ {\bf P}_{A_i|A^{i-1}, B^{i-1}}= {\bf P}_{A_i|B_{i-M}^{i-1}}: i=1, \ldots, n\big\},且FTFI容量的表征由CAnBnFB,M=supP[0,n]i=0nI(Ai;BiBiMi1)C_{A^n \rightarrow B^n}^{FB, M} {\stackrel{\triangle}{=}} \sup_{ \stackrel{\circ}{\cal P}_{[0,n]} } \sum_{i=0}^n I(A_i; B_i|B_{i-M}^{i-1}) 给出。该方法利用随机最优控制理论和有向信息的变分等式,推导I(AnBn)I(A^n \rightarrow B^n)的上界,这些上界在特定信道输入条件分布子集P[0,n]{\cal P}_{[0,n]}上是可实现的,而这些子集由条件独立性表征。对于任意上述信道分布类和传输代价函数,我们识别了FTFI容量表征与无记忆信道香农容量公式之间在条件独立性上的直接类比。

关键词

引用

@article{arxiv.1512.04514,
  title  = {Information Structures for Feedback Capacity of Channels with Memory and Transmission Cost: Stochastic Optimal Control & Variational Equalities-Part I},
  author = {Christos K. Kourtellaris and Charalambos D. Charalambous},
  journal= {arXiv preprint arXiv:1512.04514},
  year   = {2016}
}

备注

Submitted to IEEE Transactions on Information Theory, IT-15-0963