由 Bregman 散度引导的具有有限累积量的 Legendre 指数散度模型（K-LED）

指数散度模型是机器学习与统计学中有用的框架。主要得益于该模型的加性结构，估计包括均值在内的参数可轻松实现。然而，对累积量函数的严格条件（如解析性、严格凸性与陡性）缩减了指数散度模型的类别。本文提出松弛的指数散度模型 K-LED（具有 K 个累积量的 Legendre 指数散度模型）。所提模型的累积量函数是 Legendre 型的凸函数，在凸域内部具有 K 阶连续偏导数。多数 K-LED 模型通过具有强制性形状约束的、由 Bregman 散度引导的对数凹密度函数建立。所提模型的主要优势在于，1-LED 模型的第一个累积量（或均值参数空间）可通过 Bregman 散度的扩展全局最优性质轻松计算。作为基于 Tweedie 分布的 1-LED 的示例，引入了扩展正态分布。此外，我们给出了满足拟似然函数均值-方差关系的 2-LED。拟似然函数的一个子类与正则 2-LED 模型等价，后者的典则参数空间是开集。一个典型示例是具有幂方差函数的正则 2-LED 模型，即方差与观测值均值的幂成正比。该模型等价于 beta 散度的一个子类（或具有幂方差函数的拟似然函数的一个子类）。进一步，提出了一种新的参数化 K-LED 模型，其累积量函数为凸扩展 logistic 损失函数，该模型包含伯努利分布与泊松分布。