具有记忆与反馈的信道中可达容量分布的序贯充要条件

我们推导了任意信道输入条件分布 ${\cal P}_{0,n}\triangleq\{P_{X_t|X^{t-1},Y^{t-1}}:~t=0,\ldots,n\}$ 最大化有限时间范围有向信息的一系列必要条件和充分条件，该有向信息定义为 $$C^{FB}_{X^n \rightarrow Y^n} \triangleq \sup_{{\cal P}_{0,n}} I(X^n\rightarrow{Y^n}),~~~ I(X^n \rightarrow Y^n) =\sum_{t=0}^n{I}(X^t;Y_t|Y^{t-1})$$ 对于信道分布 $\{P_{Y_t|Y^{t-1},X_t}:~t=0,\ldots,n\}$ 和 $\{P_{Y_t|Y_{t-M}^{t-1},X_t}:~t=0,\ldots,n\}$，其中 $Y^t\triangleq\{Y_0,\ldots,Y_t\}$ 和 $X^t\triangleq\{X_0,\ldots,X_t\}$ 是信道输入和输出随机过程，且 $M$ 为有限非负整数。我们将必要条件和充分条件应用于具有记忆的时变信道实例，推导了最大化有限时间范围有向信息的最优分布的递归闭式表达式。进一步，我们通过研究极限 $$C_{X^\infty \rightarrow Y^\infty}^{FB} \triangleq \lim_{n \longrightarrow \infty} \frac{1}{n+1} C_{X^n \rightarrow Y^n}^{FB}$$ 从最优渐近性质推导了反馈容量，而无需任何先验假设，如信道分布的平稳性、遍历性或不可约性。这些必要条件和充分条件可轻松扩展到多种有记忆信道，超出本文所考虑的。