高维稀疏逻辑回归的条件随机化检验

以正确的置信水平识别分类模型的相关变量是一项核心但困难的高维任务。尽管稀疏逻辑回归在统计与机器学习中处于核心地位，在特征数$p$大于或等于样本数$n$的 regime 下，它仍缺乏准确推断的良好解决方案。在此，我们通过改进条件随机化检验（CRT）来解决该问题。原始CRT算法作为一种在极少假设检验统计量分布下输出p值的方法展现出前景。由于即使在中等高维问题中也具有令人望而却步的计算成本，人们提出了基于蒸馏的更快解决方案。然而，它们依赖于不现实的假设并导致低功效解。为此，我们提出\emph{CRT-logit}，一种结合变量蒸馏步骤和去相关步骤的算法，该去相关步骤考虑了$\ell_1$惩罚逻辑回归问题的几何结构。我们提供了该过程的理論分析，并通过仿真以及在大规模脑成像和基因组学数据集上的实验证明了其有效性。