中文

弯曲表示Bregman散度及其应用

信息论 2026-03-30 v5 机器学习 math.IT

摘要

类比于统计学中弯曲指数族的术语,我们将弯曲Bregman散度定义为限制在非仿射参数子空间上的Bregman散度,而当限制是仿射时则称为子维Bregman散度。弯曲Bregman散度的一个常见例子是归一化向量之间的余弦相异性:一种弯曲的平方欧几里得散度。我们证明了在弯曲Bregman散度下,有限加权参数集的barycenter等价于关于完整Bregman散度在非仿射子空间上的右Bregman投影,并将nn个参数的加权Bregman质心解释为nn重子维Bregman散度。我们通过几个例子展示了弯曲Bregman散度的重要性:(1)对称化Bregman散度,(2)逐点对称化Bregman散度,(3)圆形复正态分布之间的Kullback-Leibler散度。我们解释了如何在单纯形子维域上重新参数化子维Bregman散度。然后,我们考虑单调嵌入来定义表示弯曲Bregman散度,并证明α\alpha-散度是关于概率单纯形到正测度锥的α\alpha-嵌入的表示弯曲Bregman散度。作为一个应用,我们报告了一种计算有限个α\alpha-散度球面交集的有效方法。

关键词

引用

@article{arxiv.2504.05654,
  title  = {Curved representational Bregman divergences and their applications},
  author = {Frank Nielsen},
  journal= {arXiv preprint arXiv:2504.05654},
  year   = {2026}
}

备注

33 pages, 11 figures