基于项目反应理论的解释（eXirt）：一种从信任视角解释树集成模型的模型特定方法
机器学习
2024-07-04 v3
摘要
近年来，XAI 研究者一直在形式化提案并开发新方法以解释黑盒模型，但社区对于这些模型应使用何种解释方法尚无普遍共识，该选择几乎直接与方法的具体流行度挂钩。诸如 Ciu、Dalex、Eli5、Lofo、Shap 和 Skater 等方法应运而生，提议通过特征相关性的全局排序来解释黑盒模型，它们基于不同方法论生成全局解释，指明模型输入如何解释其预测。在此背景下，使用了 41 个数据集、4 种树集成算法（Light Gradient Boosting、CatBoost、Random Forest 和 Gradient Boosting）以及 6 种 XAI 方法，以支持一种称为 eXirt 的新 XAI 方法的推出，该方法基于项目反应理论（Item Response Theory, IRT），面向使用表格数据、涉及二分类问题的树集成黑盒模型。在第一组分析中，eXirt 的 164 个全局特征相关性排序与文献中其他 XAI 方法的 984 个排序进行比较，力求凸显其异同。在第二项分析中，呈现了 eXirt 基于示例解释（Explanation-by-example）的独有解释，有助于理解模型信任。由此证实，eXirt 能够借助 IRT 生成树集成模型的全局解释以及模型实例的局部解释，展示了这一成熟理论如何用于机器学习以获得可解释且可信的模型。
引用
@article{arxiv.2210.09933,
title = {Explanations Based on Item Response Theory (eXirt): A Model-Specific Method to Explain Tree-Ensemble Model in Trust Perspective},
author = {José Ribeiro and Lucas Cardoso and Raíssa Silva and Vitor Cirilo and Níkolas Carneiro and Ronnie Alves},
journal= {arXiv preprint arXiv:2210.09933},
year = {2024}
}
备注
59 pages, 16 Figures, 3 Equations, 6 table