论概率测度的 Bregman 距离与散度

本文引入了概率分布的标度 Bregman 距离，该距离允许被观测事件具有非均匀贡献。它们以一般形式引入，不仅涵盖了离散与连续随机观测的距离，还涵盖了随机过程与信号的距离。结果表明，标度 Bregman 距离不仅扩展了先前文献中所研究的经典距离，还扩展了信息散度以及概率测度更广泛的凸散度类。文中还建立了一个信息处理定理，但仅在相对于统计充分变换的不变性意义下成立，而非在普遍单调性的意义下成立。通过一个具体例子说明了编码可能增加经典 Bregman 距离的病态情形。除了 Bregman 距离与凸散度的经典应用领域（如识别、分类、学习以及各种特征与信号的邻近度评估）之外，本文还提及了在三维探索性数据分析中的新应用。文中在一般指数族中获得了标度 Bregman 距离的显式表达式，并具体应用于二项族、泊松族和瑞利族，以及诸如泊松过程和扩散过程（包括维纳过程与几何布朗运动经典示例）的指数过程族中。