基于提前停止遍历策略的高效强化特征选择
机器学习
2021-10-13 v2
摘要
在本文中，我们提出了一种基于单智能体 Monte Carlo 的强化特征选择（MCRFS）方法，以及两种效率提升策略，即提前停止（ES）策略和奖励级交互（RI）策略。特征选择是数据预处理中最重要的技术之一，旨在为给定的下游机器学习任务找到最优特征子集。已有大量研究致力于提升其有效性和效率。近期，多智能体强化特征选择（MARFS）在提升特征选择性能方面取得了巨大成功。然而，MARFS 承受着沉重的计算成本负担，这极大限制了其在实际场景中的应用。在本文中，我们提出了一种高效的强化特征选择方法，该方法使用一个智能体遍历整个特征集，并逐一决定是否选择每个特征。具体而言，我们首先开发一个行为策略并使用它遍历特征集以生成训练数据。然后，我们基于训练数据评估目标策略，并通过 Bellman 方程改进目标策略。此外，我们以增量方式进行重要性采样，并提出了一种提前停止策略，通过剔除偏斜数据来提升训练效率。在提前停止策略中，行为策略以与重要性采样权重成反比的概率停止遍历。另外，我们提出了一种奖励级交互策略，通过奖励级外部建议来提升训练效率。最后，我们在真实世界数据上设计了广泛的实验，以证明所提方法的优越性。
引用
@article{arxiv.2109.14180,
title = {Efficient Reinforced Feature Selection via Early Stopping Traverse Strategy},
author = {Kunpeng Liu and Pengfei Wang and Dongjie Wang and Wan Du and Dapeng Oliver Wu and Yanjie Fu},
journal= {arXiv preprint arXiv:2109.14180},
year = {2021}
}
备注
ICDM 2021