$f$ 散度产生半正定互信息矩阵的全局特征
信息论
2026-05-15 v3 math.IT
摘要
给定 个随机变量,当矩阵成对的 互信息定义为半正定(PSD)核时?对于具有 和有限边界值 的凸有限生成器 ,我们给出 的线性变换下闭式特征描述,该变换不改变任何 散度和任何 互信息矩阵。矩阵 在每个有限字母表族中为 PSD 当且仅当标准化代表 在整个 上具有全局收敛展开,且 。充分性来自单项生成器的复制嵌入加上非负混合的闭包。必要性首先提取点 处的局部 Taylor 锥,使用偏倚三点核 、Belton--Guillot--Khare--Putinar(BGKP)低秩 Hankel 正定保持定理,然后引导分析性质到散度。这是一个核特征问题,而非度量问题:变量索引矩阵的 PSD 与散度在分布之间具有的 Hilbertian 属性是不同的。该结果解释了为何 Shannon 互信息和 Jensen--Shannon 失败,为何 成功,为何诸如总变差和 ReLU 等非解析散度被排除。
引用
@article{arxiv.2601.08929,
title = {A Global Characterization of $f$-Divergences Yielding PSD Mutual-Information Matrices},
author = {Zachary Robertson},
journal= {arXiv preprint arXiv:2601.08929},
year = {2026}
}
备注
Revised main theorem and proof; fixes the local-to-global step and proves that the local analytic expansion extends to positive real line