中文

GRIP2:一种稳健且高效的深度倒立方法用于特征选择

机器学习 2026-02-03 v1 机器学习

摘要

在非线性、高度相关且信噪比极低的场景中,识别真正具有预测性的协变量并严格控制假发现率,是一项根本性挑战,深度学习 基于特征选择方法在此类场景中尤为吸引人。我们提出一种基于组正则化重要性持久性二维法(Group Regularization Importance Persistence in 2 Dimensions, GRIP2),这是一种深度倒立特征重要性统计量,集成了在二维正则化表面上控制稀疏度强度与稀疏化几何形状的第一层特征活动。为在单次训练运行中近似该表面积分,我们引入高效的块随机采样法,通过聚合优化轨迹上不同正则化 regime 下的特征活动幅度。 resulting statistics 具有反对称性,可确保有限样本下的 FDR 控制。在大量基于合成和准真实数据的实验中,GRIP2 在特征相关性和噪声水平方面表现出更好的鲁健性:在高相关性和低信噪比 regime 下,常规深度学习 基于特征选择器可能受挫,GRIP2 仍保持高功率和稳定性。最后,在真实世界的 HIV 药物抗性数据上,GRIP2 优于既定线性基线,恢复已知与药物抗性相关的突变,证明了其实际应用中的可靠性。

关键词

引用

@article{arxiv.2602.00218,
  title  = {GRIP2: A Robust and Powerful Deep Knockoff Method for Feature Selection},
  author = {Bob Junyi Zou and Lu Tian},
  journal= {arXiv preprint arXiv:2602.00218},
  year   = {2026}
}