一般有记忆信道的反馈容量最大化分布的信息结构及应用

对于任意一类信道条件分布，只要其对信道输入随机变量$A^n {\stackrel{\triangle}{=}} \{A_i: i=0, \ldots, n\}$或信道输出随机变量$B^n {\stackrel{\triangle}{=}} \{B_i: i=0, \ldots, n\}$或两者具有有限记忆依赖，我们刻画了使有向信息（定义为$I(A^n \rightarrow B^n) {\stackrel{\triangle}{=}} \sum_{i=0}^n I(A^i;B_i|B^{i-1})$）最大化的信道输入分布集合，并推导出相应的表达式，称为“有限传输反馈信息（FTFI）容量的刻画”。主要定理指出，最优信道输入分布出现在子集${\cal P}_{[0,n]}^{CI}\subseteq {\cal P}_{[0,n]} {\stackrel{\triangle}{=}}\big\{ {\bf P}_{A_i|A^{i-1}, B^{i-1}}: i=0, \ldots, n\big\}$中，这些子集满足对过去信息的条件独立性。当施加一般传输代价约束时，我们导出了类似的刻画。此外，我们还表明这些结构性质适用于由一般字母表空间上的离散时间递推定义、并由任意分布噪声过程驱动的通用非线性和线性自回归信道模型。我们通过援引随机最优控制理论和有向信息的变分等式来推导这些结构性质，以识别$I(A^n \rightarrow B^n)$的紧上界，该上界在满足条件独立性、且由信道分布和传输代价函数对输入输出符号的依赖所指定的条件分布子集${\cal P}_{[0,n]}^{CI} \subseteq {\cal P}_{[0,n]}$上可达到。我们将这些刻画应用于具有有限记忆的递归多输入多输出高斯线性信道模型，并展示了最优策略元素的计算之间存在分离原理。