利用动画线性投影探索非线性模型的局部解释
机器学习
2024-01-22 v3 人工智能
机器学习
摘要
机器学习模型预测能力的提升以复杂性和可解释性的丧失为代价，尤其是与参数统计模型相比。这种权衡催生了可解释人工智能（XAI），其提供诸如局部解释（LEs）和局部变量归因（LVAs）等方法，以阐明模型如何利用预测变量得出预测。这些方法给出了单个观测点邻域内线性变量重要性的点估计。然而，LVAs往往不能有效处理预测变量之间的关联。为了理解预测变量间的交互如何影响变量重要性估计，我们可以将LVAs转化为线性投影并使用径向tour。这也有助于了解模型如何犯错、离群值的影响或观测的聚类情况。该方法是用分类响应模型（企鹅物种、巧克力类型）和定量响应模型（足球薪资、房价）的例子来说明的。相关方法已在R包cheem中实现，可从CRAN获取。
引用
@article{arxiv.2205.05359,
title = {Exploring Local Explanations of Nonlinear Models Using Animated Linear Projections},
author = {Nicholas Spyrison and Dianne Cook and Przemyslaw Biecek},
journal= {arXiv preprint arXiv:2205.05359},
year = {2024}
}