中文

关于切片逆回归的结构维数

统计理论 2024-07-15 v2 统计理论

摘要

本工作中,我们解决了长久以来的谜题:当结构维数dd(中心空间的维数)超过4时,切片逆回归(SIR)在充分降维中常表现不佳。我们首先证明,在多指标模型Y=f(PX)+ϵY=f( \mathbf{P} \boldsymbol{X})+\epsilon中,其中X\boldsymbol{X}pp维标准正态向量,ϵ\epsilon为独立噪声,P\mathbf{P}为从Rp\mathbb R^{p}Rd\mathbb R^{d}的投影算子,若链接函数ff服从高斯过程律,则高概率下Cov[E(XY)]\mathrm{Cov}\left[\mathbb{E}(\boldsymbol{X}\mid Y)\right]的第dd个特征值λd\lambda_{d}满足λdCeθd\lambda_{d}\leq C e^{-\theta d}CCθ\theta为正常数)。我们随后聚焦于低信号机制,其中λd\lambda_{d}可任意小且不大于d8.1d^{-8.1},并证明估计中心空间的极小极大风险以下界dpnλd\frac{dp}{n\lambda_{d}}为界。结合这两结果,我们为dd较大时SIR的糟糕表现提供了令人信服的解释——该现象困扰研究者近三十年。此处发展的技术工具或可独立用于研究其他充分降维方法。

关键词

引用

@article{arxiv.2305.04340,
  title  = {On the Structural Dimension of Sliced Inverse Regression},
  author = {Dongming Huang and Songtao Tian and Qian Lin},
  journal= {arXiv preprint arXiv:2305.04340},
  year   = {2024}
}

备注

75 pages, 10 figures