中文

使用光熵进行 f 散度下的两种随机数生成问题的最优可达速率

信息论 2024-05-14 v2 math.IT

摘要

本文考虑了信息论中两种典型的固定长度随机数生成问题:源可达性问题和内在随机性问题。在这两个问题中,我们主要关注针对给定近似度量的最优可达速率,并使用两种不同的信息量来刻画:信息谱和光熵。最近,针对 f 散度的最优可达速率已使用信息谱量进行刻画。f 散度是一种基于凸函数 f 构造的两个概率分布之间的非负度量,其包含变分距离、KL 散度、黑雷尔距离等Several重要度量。因此,考虑以 f 散度为准则进行随机数生成问题是有意义的。然而,针对这两个问题中使用光熵进行 f 散度下的最优可达速率尚未阐明。本文尝试使用光熵分析最优可达速率,并扩展 f 散度的范围。为此,我们首先在与前期研究相同的条件下,推导针对 f 散度的两种问题中一阶最优可达速率的通用公式。随后,我们放宽 f 散度的条件,对所得通用公式进行推广。然后,我们将通用公式具体化到若干指定函数 f 上。结果表明,从我们通用公式可以轻易推导出若干重要度量的最优可达速率。此外,本文在光熵意义上揭示了可达性与内在随机性之间的一种类对偶关系。

关键词

引用

@article{arxiv.2404.11097,
  title  = {Optimum Achievable Rates in Two Random Number Generation Problems with $f$-Divergences Using Smooth R\'enyi Entropy},
  author = {Ryo Nomura and Hideki Yagi},
  journal= {arXiv preprint arXiv:2404.11097},
  year   = {2024}
}