概率中的信息：有限de Finetti定理的又一信息论证明

我们回顾了用信息论方法推导概率论核心结果的历史，并指出该领域近期复兴的部分动向及沿若干有趣方向取得的当前进展。随后，我们给出有限值随机变量经典de Finetti表示定理有限版本的新信息论证明。我们导出了$n$个可交换随机变量序列中前$k$个变量的分布与适当乘积分布混合之间的相对熵上界。混合测度被刻画为原始序列经验测度的律，de Finetti结果作为推论被恢复。该证明受统计力学中Gibbs条件原理的很好启发，并沿一组引人入胜的步骤展开。这些步骤所需的技术估计通过信息论中称为“类型法”的一组组合工具获得。