BELLATREX：通过局部准确规则提取器构建解释
机器学习
2023-01-09 v2 人工智能
摘要
树集成算法（如随机森林）是有效的机器学习方法，因其灵活性、高性能和对过拟合的鲁棒性而广受欢迎。然而，由于组合了多个学习器，它们不如单棵决策树那样可解释。本文提出一种新方法，即通过局部准确规则提取器构建解释（Bellatrex，Building Explanations through a LocalLy AccuraTe Rule EXtractor），它能够仅用少量多样化规则解释随机森林对给定测试实例的预测。从随机森林生成的决策树出发，我们的方法 1）预选用于预测的规则子集，2）创建这些规则的向量表示，3）将其投影到低维空间，4）对表示进行聚类，从每个簇中挑选一条规则来解释该实例预测。我们在 89 个真实数据集上测试了 Bellatrex 的有效性，并展示了我们的方法在二分类、回归、多标签分类和事件时间（time-to-event）任务上的有效性。据我们所知，这是首个能在同一框架内处理所有这些任务的可解释性工具箱。我们还表明，所提取的代理模型在所有考虑的任务中都能逼近相应集成模型的性能，同时仅从整个森林中选取少量树。我们还表明，所提方法在预测性能上大幅优于其他可解释方法。
引用
@article{arxiv.2203.15511,
title = {BELLATREX: Building Explanations through a LocaLly AccuraTe Rule EXtractor},
author = {Klest Dedja and Felipe Kenji Nakano and Konstantinos Pliakos and Celine Vens},
journal= {arXiv preprint arXiv:2203.15511},
year = {2023}
}