中文

一种用于预测分析的统一快速可解释模型

机器学习 2023-03-14 v2

摘要

预测分析旨在构建机器学习模型以预测行为模式并利用预测指导决策。预测分析涉及人类参与,因此机器学习模型最好是可解释的。文献中,广义加性模型(GAM)是可解释性的标准。然而,由于现实场景中普遍存在的多对一与一对多现象,现有GAM在准确率和训练效率方面服务于预测分析存在局限。本文提出FXAM(Fast and eXplainable Additive Model,快速可解释加性模型),一种用于预测分析的统快可解释模型。FXAM以面向数值、类别与时间特征的统一加性模型扩展了GAM的建模能力。FXAM执行一种称为三阶段迭代(TSI)的新颖训练流程。TSI分别对应在数值、类别与时间特征上的学习。各阶段通过固定其他阶段参数来学习局部最优。我们设计了类别特征上的联合学习与时间特征上的部分学习,以实现高准确率与训练效率。我们证明TSI保证收敛至全局最优。我们进一步提出一组优化技术以加速FXAM的训练算法,满足交互式分析需求。在多样数据集上的详尽评估验证了FXAM在训练速度及类别与时间特征建模方面显著优于现有GAM。在可解释性方面,我们在两个真实场景中将FXAM与典型事后方法XGBoost+SHAP比较,显示了FXAM内在可解释性对预测分析的优越性。

关键词

引用

@article{arxiv.2111.08255,
  title  = {A Unified and Fast Interpretable Model for Predictive Analytics},
  author = {Yuanyuan Jiang and Rui Ding and Tianchi Qiao and Yunan Zhu and Shi Han and Dongmei Zhang},
  journal= {arXiv preprint arXiv:2111.08255},
  year   = {2023}
}