Burbea-Rao质心与Bhattacharyya质心

我们研究关于信息论中Burbea-Rao散度类的质心，该类散度推广了著名的Jensen-Shannon散度，通过测量由严格凸且可微函数诱导的非负Jensen差。尽管这些Burbea-Rao散度通过构造是对称的，但它们不是度量，因为它们不满足三角不等式。我们首先解释了Bregman散度的一种特定对称化，称为Jensen-Bregman距离，如何恰好产生这些Burbea-Rao散度。然后我们定义了倾斜Burbea-Rao散度，并展示了倾斜Burbea-Rao散度在极限情况下等价于计算Bregman散度。接着我们证明了Burbea-Rao质心是唯一的，并且可以通过一个具有保证收敛性质的通用迭代凹-凸优化算法任意精细地逼近。在论文的第二部分，我们考虑了通常用于测量概率分布重叠程度的Bhattacharyya距离。我们展示了同一统计指数族成员上的Bhattacharyya距离等价于计算一种伪装下的Burbea-Rao散度。因此，我们得到了一个用于计算属于同一指数族的参数分布集合的Bhattacharyya质心的高效算法，改进了文献中先前仅限于单变量或“对角”多元高斯的专门方法。为了展示我们的Bhattacharyya/Burbea-Rao质心算法的性能，我们给出了高斯混合模型的k均值和层次聚类方法的实验性能结果。