高维背景下变量选择一致性的严格条件

我们探讨了在环境维数非常高（即变量数量非常大）的回归模型中的变量选择问题。主要关注点是相关变量数量（称为固有维数）远小于环境维数 d 的情况。在不假设底层回归函数任何参数形式的前提下，我们得到了使得能够一致地估计相关变量集的严格条件。这些条件将固有维数与环境维数以及样本量联系起来。在这些严格条件下可证明一致的程序基于将经验傅里叶系数的二次泛函与适当选择的阈值进行比较。渐近分析揭示了两种截然不同状态的存在。第一种状态是固有维数固定。在这种情况下，非参数回归中的情况与线性回归相同，即当且仅当 log d 与样本量 n 相比很小时，一致的变量选择是可能的。第二种状态下的情况则不同，即当相关变量数量 s 随着 n→∞ 趋于无穷大时。我们证明，在非参数设置下，一致的变量选择只有当 s+loglog d 与 log n 相比很小时才可能。我们应用这些结果推导了变量选择问题的极小极大分离率。