中文

公共信息、噪声稳定性及其推广

信息论 2022-11-04 v1 math.IT 概率论

摘要

公共信息(CI)在信息论及理论计算机科学、离散概率等相关领域中无处不在。然而,由于存在多种 CI 概念,人们缺乏对其深层相互关联的统一理解。本专著试图借助一组适用于看似迥异问题的小规模数学技术来填补这一空白。第一部分中,我们回顾与 Wyner 及 Gács-Körner-Witsenhausen(GKW)的 CI 相关的操作任务与性质。第二部分中,我们从分布式信源模拟的角度讨论前者的推广。这包括 Rényi CI,其在 Wyner 的 CI 与精确 CI 之间架起桥梁。通过阶为 \infty 的 Rényi CI 与精确 CI 之间令人惊讶的等价性,我们证明了存在一个联合信源,其中精确 CI 严格大于 Wyner 的 CI。第二部分讨论的其他密切相关主题包括信道合成问题,以及 Wyner 与精确 CI 同矩阵非负秩的联系。第三部分中,我们通过噪声稳定性或 NICD 问题以更精细的视角审视 GKW 的 CI,其中我们量化从双变量信源提取比特的一致概率。随后我们将其推广至 kk 用户 NICD 与 qq 稳定性问题,并讨论信息论与离散概率中的若干猜想,如 Courtade-Kumar、Li-Médard 与 Mossel-O'Donnell 猜想。最后,我们考虑超压缩与 Brascamp-Lieb 不等式,其通过将其中的布尔函数替换为非负函数而进一步推广了噪声稳定性。第三部分证明背后的关键思想可以教学上连贯的方式呈现,并通过信息论与傅里叶分析方法统一起来。

关键词

引用

@article{arxiv.2211.01788,
  title  = {Common Information, Noise Stability, and Their Extensions},
  author = {Lei Yu and Vincent Y. F. Tan},
  journal= {arXiv preprint arXiv:2211.01788},
  year   = {2022}
}

备注

Lei Yu and Vincent Y. F. Tan (2022), "Common Information, Noise Stability, and Their Extensions'', Foundations and Trends in Communications and Information Theory: Vol. 19, No. 3, pp 264--546. DOI: 10.1561/0100000122