Arimoto 算法的随机解释

Arimoto 算法通过交替最大化计算给定信道 ${P}_{}^{}(y \,|\, x)$ 和参数 $\rho$ 的 Gallager 函数 $\max_Q {E}_{0}^{}(\rho,Q)$。在此过程中，它生成一系列输入分布 ${Q}_{1}^{}(x)$, ${Q}_{2}^{}(x)$, ...，收敛至最大化输入 ${Q}_{}^{*}(x)$。我们提出了 Arimoto 算法的一种随机解释。我们表明，对于具有分布 ${Q}_{k}^{}(x)$ 的随机（i.i.d.）码本，Arimoto 算法中的下一个分布 ${Q}_{k+1}^{}(x)$ 等于使条件 Gallager 指数最大化的可行发送码字的类型 (${Q}'$)（以特定发送码字类型 ${Q}'$ 为条件）。这种解释是寻找在线信道输入自适应随机机制的第一步。