Automunge 中用于梯度提升的特征编码
机器学习
2022-10-27 v2
摘要
Automunge 是一个表格数据预处理库,为监督学习编码数据框。在为梯度提升学习选择默认特征编码策略时,可考虑与特征表示相关的训练时长与所达预测性能度量。Automunge 对类别特征提供二值化默认、对数值特征提供 z-score 归一化默认。本研究试图通过在一系列多样化数据集上以调优的梯度提升学习进行编码变体基准测试来验证这些默认值。我们发现平均而言,从调优时长和模型性能角度看,我们所选默认值均为顶尖表现。另一关键发现是,与类别二值化相比,独热编码(one hot encoding)的表现并不适合作为类别默认值。我们在此呈现这些及进一步的基准测试结果。
引用
@article{arxiv.2209.12309,
title = {Feature Encodings for Gradient Boosting with Automunge},
author = {Nicholas J. Teague},
journal= {arXiv preprint arXiv:2209.12309},
year = {2022}
}
备注
10 pages, 4 figures, preprint