基于最优传输域适应的特征选择统计推断
机器学习
2024-10-22 v1 机器学习
摘要
域适应下的特征选择是机器学习中的一项关键任务，尤其是在处理有限目标数据时。然而，现有方法缺乏保证域适应下特征选择可靠性的能力。在本文中，我们引入了一种新颖的统计方法，用于统计检验域适应下的特征选择可靠性，命名为 SFS-DA（统计特征选择-域适应）。SFS-DA 的关键优势在于它能够将假阳性率控制在预先指定的水平 （例如，0.05）以下，同时最大化真阳性率。与统计特征选择的文献相比，SFS-DA 在解决域适应的影响以确保特征选择结果推断的有效性方面提出了独特的挑战。我们通过利用选择性推断框架克服了这一挑战。具体来说，通过仔细检查域适应下的特征选择过程（其操作可由线性和二次不等式表征），我们证明了在 SFS-DA 中实现假阳性率控制确实是可能的。此外，我们通过引入更具策略性的方法来提高真实检测率。在合成和真实世界数据集上进行的实验有力地支持了我们的理论结果，展示了所提出的 SFS-DA 方法的优越性能。
引用
@article{arxiv.2410.15022,
title = {Statistical Inference for Feature Selection after Optimal Transport-based Domain Adaptation},
author = {Nguyen Thang Loi and Duong Tan Loc and Vo Nguyen Le Duy},
journal= {arXiv preprint arXiv:2410.15022},
year = {2024}
}