中文

关于高斯核密度估计器的模数数量

统计理论 2025-11-10 v3 机器学习 统计理论

摘要

我们考虑带带宽 β12\beta^{-\frac12} 的高斯核密度估计器,对 nn 个独立同分布的高斯样本进行估计。利用 Kac-Rice 公式和 Edgeworth 展开,我们证明了在 β,n\beta,n\to\infty 时,实数线上模数的期望数目按 Θ(βlogβ)\Theta(\sqrt{\beta\log\beta}) 增长,前提是 ncβn2cn^c\lesssim \beta\lesssim n^{2-c},其中 c>0c>0 为常数。这一调查的动因是确定在 metastable 状态中 Transformer 所抽取的簇数。

关键词

引用

@article{arxiv.2412.09080,
  title  = {On the number of modes of Gaussian kernel density estimators},
  author = {Borjan Geshkovski and Philippe Rigollet and Yihang Sun},
  journal= {arXiv preprint arXiv:2412.09080},
  year   = {2025}
}