有限长序列通用压缩冗余性研究

本文研究有限长区域下光滑参数源上通用编码方案的冗余性。我们推导了这样一个事件概率的上界：从具有 $d$ 个未知参数的参数源族中，利用 Jeffreys 先验选择的长度为 $n$ 的序列，其压缩冗余度小于 $(1-\epsilon)\frac{d}{2}\log n$（其中任意 $\epsilon>0$）。我们的结果还证实，对于足够大的 $n$ 和 $d$，平均极小极大冗余度能为大多数源的冗余度提供良好的估计。该结果可用于评估通用信源编码方案在有限长序列上的性能。此外，我们精确刻画了两阶段码的极小极大冗余度。我们证明，两阶段假设带来的冗余度可忽略不计，尤其是在源参数数量较大时。最后，我们表明在小序列压缩中冗余度是显著的。