NN-Stacking：通过神经网络实现特征加权线性堆叠
机器学习
2020-02-26 v1 统计方法学
机器学习
摘要
堆叠方法提升了回归模型的预测性能。组合基回归估计量的一种简单方式如 \citet{breiman1996stacked} 所做的那样进行线性组合。尽管该方法从可解释性角度看是有用的，但它往往不能带来高预测能力。我们提出 NN-Stacking 方法（NNS），它通过允许线性参数随输入特征变化来推广 Breiman 的方法。这一改进使 NNS 能够利用不同基模型常在特征空间的不同区域表现更优这一事实。我们的方法使用神经网络来估计堆叠系数。我们表明，虽然我们的方法在局部层面保持了 Breiman 方法的可解释特征，但它带来了更好的预测能力，尤其是在具有大样本量的数据集中。
引用
@article{arxiv.1906.09735,
title = {The NN-Stacking: Feature weighted linear stacking through neural networks},
author = {Victor Coscrato and Marco Henrique de Almeida Inácio and Rafael Izbicki},
journal= {arXiv preprint arXiv:1906.09735},
year = {2020}
}