中文

关于具有有界支撑的 q-高斯的 Stein 身份

机器学习 2026-03-05 v1 机器学习

摘要

Stein身份是机器学习中的基本工具,广泛应用于生成模型、随机优化等涉及高斯分布下期望梯度的问题。然而,针对非高斯期望的问题关注不足。本文考虑具有有界支撑的 q-高斯类,推导新的Stein身份,导致梯度估计器的形式几乎与高斯情形相同且同样易于实现。我们通过扩展Landsman、Vanduffel和Yao(2013)的先前结果,证明了 q-高斯的新的Bonnet-和Price型定理。我们还通过使用 escort 分布简化了其形式。我们的实验表明,有界支撑分布可降低梯度估计器的方差,这在贝叶斯深度学习和锐度感知最小化中可能具有优势。总体而言,我们的工作简化了针对重要非高斯分布类的Stein身份的应用。

关键词

引用

@article{arxiv.2603.03673,
  title  = {A Stein Identity for q-Gaussians with Bounded Support},
  author = {Sophia Sklaviadis and Thomas Moellenhoff and Andre F. T. Martins and Mario A. T. Figueiredo and Mohammad Emtiyaz Khan},
  journal= {arXiv preprint arXiv:2603.03673},
  year   = {2026}
}