中文

$f$ 散度产生半正定互信息矩阵的全局特征

信息论 2026-05-15 v3 math.IT

摘要

给定 nn 个随机变量,当矩阵成对的 ff 互信息定义为半正定(PSD)核时?对于具有 f(1)=0f(1)=0 和有限边界值 f(0)f(0) 的凸有限生成器 f:(0,)Rf:(0,\infty)\to\mathbb{R},我们给出 ff+c(t1)f\sim f+c(t-1) 的线性变换下闭式特征描述,该变换不改变任何 ff 散度和任何 ff 互信息矩阵。矩阵 Mij(f):=If(Xi;Xj)M^{(f)}_{ij}:=I_f(X_i;X_j) 在每个有限字母表族中为 PSD 当且仅当标准化代表 fˉ(t)=m2am(t1)m\bar f(t)=\sum_{m\ge2}a_m(t-1)^m 在整个 (0,)(0,\infty) 上具有全局收敛展开,且 am0a_m\ge0。充分性来自单项生成器的复制嵌入加上非负混合的闭包。必要性首先提取点 11 处的局部 Taylor 锥,使用偏倚三点核 HaH_a、Belton--Guillot--Khare--Putinar(BGKP)低秩 Hankel 正定保持定理,然后引导分析性质到散度。这是一个核特征问题,而非度量问题:变量索引矩阵的 PSD 与散度在分布之间具有的 Hilbertian 属性是不同的。该结果解释了为何 Shannon 互信息和 Jensen--Shannon 失败,为何 χ2\chi^2 成功,为何诸如总变差和 ReLU 等非解析散度被排除。

关键词

引用

@article{arxiv.2601.08929,
  title  = {A Global Characterization of $f$-Divergences Yielding PSD Mutual-Information Matrices},
  author = {Zachary Robertson},
  journal= {arXiv preprint arXiv:2601.08929},
  year   = {2026}
}

备注

Revised main theorem and proof; fixes the local-to-global step and proves that the local analytic expansion extends to positive real line