Kullback-Leibler 散度与 Bernstein 范数的 Hellinger 界

Tetsuya Kaji

Kullback-Leibler 散度与 Bernstein 范数的 Hellinger 界

统计理论 2026-01-27 v1 计量经济学统计理论

作者: Tetsuya Kaji

摘要

Kullback-Leibler 散度、Kullback-Leibler 变差以及 Bernstein “范数”用于量化非参数极大似然与非参数 Bayes 等似然模型中概率分布之间的差异。它们与 Hellinger 距离密切相关，而后者通常更易于处理。因此，刻画 Hellinger 距离作为这些度量上界的条件具有重要意义。本文刻画了上述每种差异度量被 Hellinger 距离所界的充分必要条件。该条件适用于无界似然比，并推广了所有已知结果。随后，我们将其应用于放宽筛极大似然估计量的正则性条件。

关键词

Kullback-Leibler 散度 Hellinger 距离 Bernstein 范数似然比筛极大似然估计量非参数 Bayes

引用

@article{arxiv.2601.17860,
  title  = {The Hellinger Bounds on the Kullback-Leibler Divergence and the Bernstein Norm},
  author = {Tetsuya Kaji},
  journal= {arXiv preprint arXiv:2601.17860},
  year   = {2026}
}

备注

25 pages

Kullback-Leibler 散度与 Bernstein 范数的 Hellinger 界

摘要

关键词

引用

备注

相关论文