面向机器学习模型的 Shapley 变量重要性云
机器学习
2022-12-19 v1
摘要
当前可解释机器学习的实践通常侧重于解释从数据训练得到的最终模型，例如使用 Shapley 加性解释（SHAP）方法。近期开发的 Shapley 变量重要性云（ShapleyVIC）将当前实践扩展至一组“近似最优模型”，以提供全面且稳健的变量重要性评估，并带有估计的不确定性区间，从而更完整地理解变量对预测的贡献。ShapleyVIC 最初针对传统回归模型的应用而开发，其推断优势已在采用逻辑回归模型的真实预测任务中得到证明。然而，作为一种模型无关方法，ShapleyVIC 的应用并不限于此类场景。在本工作中，我们将 ShapleyVIC 的实现扩展至机器学习模型以支持更广泛的应用，并将其提议为当前 SHAP 分析的有益补充，以使这些黑盒模型的应用更可信。
引用
@article{arxiv.2212.08370,
title = {Shapley variable importance cloud for machine learning models},
author = {Yilin Ning and Mingxuan Liu and Nan Liu},
journal= {arXiv preprint arXiv:2212.08370},
year = {2022}
}