组合弱学习器解释以提升随机森林解释鲁棒性
机器学习
2024-03-01 v1 人工智能
摘要
可解释人工智能 (XAI) 中的鲁棒性概念指的是，相对于导致预测的输入变化，学习模型预测的解释所观察到的变化。直观地说，如果被解释的输入发生了细微的修改，以至于没有过多改变模型的预测，那么我们期望为该新输入提供的解释也不会发生太大变化。我们认为，通过对集成弱学习器解释进行判别平均的组合，可以提高集成方法中解释的鲁棒性。该方法已通过事后 SHAP 方法和随机森林集成进行了实施和测试，并取得了成功的结果。所获得的改进已得到定量测量，并提出了关于集成方法中可解释性鲁棒性的一些见解。
引用
@article{arxiv.2402.19025,
title = {Combination of Weak Learners eXplanations to Improve Random Forest eXplicability Robustness},
author = {Riccardo Pala and Esteban García-Cuesta},
journal= {arXiv preprint arXiv:2402.19025},
year = {2024}
}
备注
8 pages, 10 figures