线性迭代特征嵌入：一种可解释模型的集成框架
机器学习
2021-03-19 v1 机器学习
摘要
我们提出了一种称为线性迭代特征嵌入（LIFE）的新型可解释模型集成框架，可同时实现高预测精度、易解释性和高效计算。LIFE算法能够通过三个步骤精确拟合一个宽单隐层神经网络（NN）：由神经节点的线性投影定义数据集的子集，从不同数据子集上训练出的多个窄单隐层NN创建特征，再用线性模型组合这些特征。LIFE的理论依据由其与栈式集成方法损失模糊分解的联系给出。仿真与实证实验均证实，LIFE持续优于直接训练的单隐层NN，并且在许多实验中优于包括多层前馈神经网络（FFNN）、Xgboost和随机森林（RF）在内的许多其他基准模型。作为一个宽单隐层NN，LIFE本身具有可解释性。同时，变量重要性以及全局主效应与交互效应均可轻松生成并可视化。此外，基学习器构建的并行特性使LIFE能借助并行计算实现计算高效。
引用
@article{arxiv.2103.09983,
title = {Linear Iterative Feature Embedding: An Ensemble Framework for Interpretable Model},
author = {Agus Sudjianto and Jinwen Qiu and Miaoqi Li and Jie Chen},
journal= {arXiv preprint arXiv:2103.09983},
year = {2021}
}