对偶 Bregman 与 Fenchel-Young 散度

通过计算属于不同指数族的两个概率测度之间的 Kullback-Leibler 散度，我们得到一个推广普通 Fenchel-Young 散度的公式。受该公式启发，我们定义对偶 Fenchel-Young 散度，并给出其生成元对的一个控制条件，保证该散度始终非负。该对偶 Fenchel-Young 散度也等价于一个对偶 Bregman 散度。我们通过计算嵌套指数族密度之间的 Kullback-Leibler 散度来展示这些对偶散度的用途，并给出截断正态分布之间 Kullback-Leibler 散度的公式。最后，我们证明嵌套指数族之间的偏斜 Bhattacharyya 距离等价于一个偏斜对偶 Jensen 散度。