通过单智能体重构选择策略简化强化特征选择
机器学习
2020-09-22 v1 机器学习
摘要
特征选择旨在选取特征子集以优化下游预测任务的性能。近年来，多智能体强化特征选择（MARFS）被引入以实现特征选择自动化，即为每个特征创建智能体来选择或取消选择相应特征。尽管 MARFS 享有选择过程的自动化，但其不仅受限于内容与维度上的数据复杂性，还面临随智能体数量呈指数增长的计算成本。由此引发的关注引出一个新的研究问题：我们能否在强化学习背景下简化智能体的选择过程，从而提升特征选择的效率并降低成本？为解答该问题，我们开发了一种集成重构选择策略的单智能体强化特征选择方法。具体而言，重构选择策略包括：1）仅利用单个智能体处理多个特征的选择任务，而非使用多个智能体。2）我们开发了一种扫描方法，使单智能体在每轮扫描中作出多个选择/取消选择决策。3）我们利用特征与预测标签的相关性来优先安排智能体对多特征的扫描顺序。4）我们提出了一种卷积自编码器算法，结合特征的编码索引信息，以改进状态表示。5）我们设计了一种同时考虑预测精度与特征冗余的奖励方案，以促进探索过程。最后，我们给出了大量实验结果以证明所提方法的效率与有效性。
引用
@article{arxiv.2009.09230,
title = {Simplifying Reinforced Feature Selection via Restructured Choice Strategy of Single Agent},
author = {Xiaosa Zhao and Kunpeng Liu and Wei Fan and Lu Jiang and Xiaowei Zhao and Minghao Yin and Yanjie Fu},
journal= {arXiv preprint arXiv:2009.09230},
year = {2020}
}