中文

单指数模型中无正则化 M 估计器存在的相变

统计理论 2025-05-27 v3 统计理论

摘要

本文研究了在比例渐近情形下无正则化 M 估计器存在的相变,其中样本量 nn 与特征维度 pp 按比例增长,n/pδ(1,)n/p \to \delta \in (1, \infty)。我们研究单指数模型中 M 估计器的存在性,其中响应 yiy_i 依赖于协变量 xiN(0,Ip)x_i \sim N(0, I_p) 通过未知指数 wRp{w} \in \mathbb{R}^p 和未知链接函数。推导了决定 M 估计器存在性的临界阈值 δ\delta_\infty 的显式表达式,将 Cand\'e & Sur (2020) 针对二元 logistic 回归的结果推广到其他单指数模型。此外,我们探讨了当 M 估计器存在时,支配其渐近行为的非线性方程组是否存在解。对于 δ>δ\delta > \delta_\infty,该系统解的存在性在二元 logistic 回归中的全局零假设之外仍基本未被证明。我们通过证明该系统在 δ>δ\delta > \delta_\infty 时必有解,为需要作为先决条件的比例渐近结果提供了全面的理论基础,即该系统必须存在解。

关键词

引用

@article{arxiv.2501.03163,
  title  = {Phase transitions for the existence of unregularized M-estimators in single index models},
  author = {Takuya Koriyama and Pierre C. Bellec},
  journal= {arXiv preprint arXiv:2501.03163},
  year   = {2025}
}

备注

22 pages, 3 figures