通过 Rényi 散度对 s-凹密度的逼近与估计

在本文中，我们研究通过 Rényi 散度对 $s$-凹密度的逼近与估计。我们首先证明，当且仅当概率测度 $Q$ 具有满维支撑和一阶矩时，通过最小化 Koenker 和 Mizera (2010) 提出的散度泛函的过程，用 $s$-凹密度对概率测度 $Q$ 的逼近存在且唯一。我们还证明了散度泛函在 $Q$ 中的连续性：若 $Q_n \to Q$ 依 Wasserstein 度量，则投影密度在加权 $L_1$ 度量下收敛，且在极限连续集的闭子集上一致收敛。此外，投影密度的方向导数也具备局部一致收敛性。这包含了在模型内和脱离模型的情形，并蕴含了在温和条件下 $s$-凹密度的散度估计量的强一致性。对于 $s$-凹密度的 Rényi 散度估计量，一个有趣且重要的特征是该估计量与通过最大似然法对对数凹密度的估计本质相关。事实上，我们证明至少对于 $d=1$，当 $s \nearrow 0$ 时，$s$-凹密度的 Rényi 散度估计量收敛于对数凹密度的最大似然估计量。Rényi 散度估计量具有与对数凹分布的最大似然估计量相似的特征，这使得我们可以在假设底层密度为 $s$-凹的条件下发展点态渐近分布理论。