关于 Renyi 散度、相对熵的联合范围及一个信道编码定理

本文首先考虑了在总变差距离约束下最小化 Renyi 散度的问题。基于该优化问题的解，当 $P_1, P_2, Q$ 为任意互绝对连续的概率测度，且 $P_1$ 与 $P_2$ 之间的总变差距离不低于给定值时，确定了点 $\bigl( D(Q\|P_1), D(Q\|P_2) \bigr)$ 的精确轨迹。进一步表明，该凸区域的所有点均可由定义于二元字母表上的概率测度达到。这一表征给出了在总变差距离约束下最小 Chernoff 信息的几何解释。本文还推导了二进制线性分组码（或码集）在最大似然译码下性能的指数上界。其推导依赖于 Gallager 边界技术，并将 Shulman-Feder 界作为特例重现。该界用从码（或码集的平均距离谱）的归一化距离谱到容量可达随机分组码集的二项式分布距离谱的 Renyi 散度表示。该指数界提供了二进制线性分组码（或码集）性能退化程度的定量度量，作为其距离谱偏离二项式分布的函数。文中还考虑了该界的高效使用。