基于重采样方法的无参数鲁棒互信息特征选择
机器学习
2007-09-26 v1 应用统计
摘要
将互信息准则与前向特征选择策略相结合，能在所选特征子集的最优性与计算时间之间提供良好的权衡。然而，这需要设定互信息估计器的参数，并确定何时停止前向过程。由于随着子集维度的增加，互信息的估计变得越来越不可靠，这两个选择难以做出。本文提出使用重采样方法，即 K 折交叉验证和置换检验，来解决这两个问题。重采样方法提供了关于估计器方差的信息，这些信息随后可用于自动设定参数并计算停止前向过程的阈值。该过程在合成数据集以及真实世界示例上进行了演示。
引用
@article{arxiv.0709.3640,
title = {Resampling methods for parameter-free and robust feature selection with mutual information},
author = {Damien François and Fabrice Rossi and Vincent Wertz and Michel Verleysen},
journal= {arXiv preprint arXiv:0709.3640},
year = {2007}
}