AutoFS：基于多样性感知交互强化学习的自动化特征选择
机器学习
2020-09-17 v3 人工智能
机器学习
摘要
本文研究自动化特征选择中效率与效果平衡的问题。特征选择是机器学习和预测分析的基本智能能力。在探索众多特征选择方法后，我们观察到一种计算困境：1）传统特征选择方法（如mRMR）大多高效，但难以识别最佳子集；2）新兴的强化特征选择方法自动导航特征空间以探索最佳子集，但通常效率低下。自动化与效率是否总是不可兼得？我们能否在自动化下弥合效果与效率间的鸿沟？受此计算困境驱动，本研究旨在开发一种新颖的特征空间导航方法。为此，我们提出交互式强化特征选择(IRFS)框架，该框架不仅依靠自我探索经验，还借助多样化的外部熟练训练者来加速特征探索的学习。具体而言，我们将特征选择问题建模为交互式强化学习框架。在该框架中，我们首先建模两种擅长不同搜索策略的训练者：(1)基于KBest的训练者；(2)基于决策树的训练者。随后我们制定两种策略：(1)识别果断与犹豫智能体以多样化智能体训练；(2)使两位训练者在不同阶段承担教学角色，以融合训练者经验并多样化教学过程。这种混合教学策略可帮助智能体学习更广知识，从而更有效。最后，我们在真实数据集上进行了充分实验，证明我们的方法性能更优：比现有强化选择更高效，比经典选择更有效。
引用
@article{arxiv.2008.12001,
title = {AutoFS: Automated Feature Selection via Diversity-aware Interactive Reinforcement Learning},
author = {Wei Fan and Kunpeng Liu and Hao Liu and Pengyang Wang and Yong Ge and Yanjie Fu},
journal= {arXiv preprint arXiv:2008.12001},
year = {2020}
}
备注
Accepted by ICDM 2020. In this version, we revised some typos or mistakes for camera-ready