中文

最佳模型的局部极小可信集

统计理论 2025-09-23 v4 统计方法学 机器学习 统计理论

摘要

本文解决了一个基本推断问题:给定来自均值未知的 Rd\mathbb{R}^d 上的分布 PPnn 个观测,我们必须为对应于 μ\boldsymbol{\mu} 最小分量索引(或索引)形成置信集。通过对偶性,我们将其归约为对于每个 r1,,dr \in 1,\ldots,d,测试 μr\mu_r 是否为最小值的问题。基于 Kim 和 Ramdas (2024) 的样本分裂和自归一化方法,我们提出了能够在 dd 相对于 nn 进行任何尺度扩展以及 μ\boldsymbol{\mu} 中任意并列情况下的有效性的“维度无关”测试。值得注意的是,我们的有效性在温和的矩条件下成立,只需第二矩有限,允许坐标之间可能的强相关。在此基础上,我们建立了该问题的局部极小分离率,这会适应混淆集的基数,并证明所提出的测试达到了该率。此外,我们发展了稳健变体,继续在仅具有有限第二矩的重尾分布下实现相同的极小率。尽管这些结果凸显了我们方法的理论优势,但一个实际关切是样本分裂会降低有限样本功效。我们证明,这一缺点可以通过 Guo 和 Shah (2025) 的多分裂聚合方法得到显著缓解。最后,实验结果在仿真数据和真实数据上表明,我们的方法在类型 I 错误控制和检验功效方面优于现有方法。

关键词

引用

@article{arxiv.2503.21639,
  title  = {Locally minimax optimal confidence sets for the best model},
  author = {Ilmun Kim and Aaditya Ramdas},
  journal= {arXiv preprint arXiv:2503.21639},
  year   = {2025}
}