基于强化学习的科学数据特征生成算法

特征生成旨在通过构建高阶特征组合并去除冗余特征来增强原始数据的预测潜力。它是表格科学数据的关键预处理步骤，用于提升下游机器学习模型的性能。传统方法在处理科学数据的特征生成时面临以下两个挑战：首先，科学数据中高阶特征组合的有效构建需要深厚且广泛的领域专业知识。其次，随着特征组合阶数的增加，搜索空间呈指数级增长，导致人力消耗难以承受。以数据为中心的人工智能范式的进展为自动化特征生成过程开辟了新的途径。受此启发，本文重新审视了传统的特征生成工作流程，并提出了多智能体特征生成框架。具体来说，在迭代探索阶段，多智能体将协作构建数学变换方程，综合并识别具有高信息含量的特征组合，并利用强化学习机制来演化其策略。在完成探索阶段后，MAFG集成大语言模型，对每个显著模型性能突破所产生的特征进行解释性评估。实验结果和案例研究一致表明，MAFG框架有效地自动化了特征生成过程，并显著增强了各种下游科学数据挖掘任务。