学习到的特征重要性分数用于自动化特征工程
机器学习
2024-06-07 v1
摘要
特征工程在许多机器学习工作流程中已显示出巨大的实用性,例如在小数据场景或分布偏移严重时。因此,自动化此能力可以减轻大量人工工作并提高模型性能。为此,我们提出了AutoMAN,即基于掩码的自动化特征工程,这是一个自动化特征工程框架,具有高精度、低延迟,并且可以扩展到异质和时变数据。AutoMAN基于有效探索候选变换空间,而无需显式实例化变换后的特征。这是通过学习特征重要性掩码来实现的,该掩码可以扩展以支持其他模态,例如时间序列。AutoMAN以端到端的方式学习特征变换重要性,将数据集的任务目标直接融入特征工程中,从而在显著降低延迟的同时实现了最先进的性能。
引用
@article{arxiv.2406.04153,
title = {Learned Feature Importance Scores for Automated Feature Engineering},
author = {Yihe Dong and Sercan Arik and Nathanael Yoder and Tomas Pfister},
journal= {arXiv preprint arXiv:2406.04153},
year = {2024}
}