面向高维非线性分类的创新交互筛选

本文关注高维环境下的交互筛选和非线性分类问题。我们提出一个两步过程 IIS-SQDA，第一步提出基于转换原始 $p$ 维特征向量的创新交互筛选 (IIS) 方法，第二步提出稀疏二次判别分析 (SQDA) 用于进一步选择重要交互和主效应并同时进行分类。我们的 IIS 方法仅通过检查 $p$ 个特征而非所有 $O(p^2)$ 阶的两两交互来筛选重要交互。我们的理论表明，所提方法在 $p$ 随样本量指数增长的维度设置下享有交互选择的确定筛选性质。在选择和分类步骤，我们建立了 QDA 估计系数向量的稀疏不等式，并证明我们过程的分类误差可被 oracle 分类误差加上某些较小阶项上界限制。广泛的模拟研究和真实数据分析表明我们的提议在交互选择和高维分类中优于现有方法。