中文

通过平滑梯度外积高效估计中心均值子空间

机器学习 2024-09-16 v2 机器学习 统计方法学

摘要

我们考虑多指标模型的充分降维(SDR)问题。以往工作中对中心均值子空间的估计量要么具有缓慢的(非参数)收敛速率,要么依赖于严格的分布条件(例如协变量分布 PXP_{\mathbf{X}} 为椭圆对称)。在本文中,我们表明,对于允许高斯分布或更重尾分布的一般类分布 PXP_{\mathbf{X}},通过估计\emph{期望平滑梯度外积},可以实现形式为 Cdn1/2C_d \cdot n^{-1/2} 的快速参数收敛速率。当链接函数是次数至多为 rr 的多项式且 PXP_{\mathbf{X}} 为标准高斯分布时,我们证明前置因子依赖于环境维度 dd,满足 CddrC_d \propto d^r

关键词

引用

@article{arxiv.2312.15469,
  title  = {Efficient Estimation of the Central Mean Subspace via Smoothed Gradient Outer Products},
  author = {Gan Yuan and Mingyue Xu and Samory Kpotufe and Daniel Hsu},
  journal= {arXiv preprint arXiv:2312.15469},
  year   = {2024}
}