扩展决策谓词图以实现对孤立森林的全面解释

在现代机器学习中，解释预测模型的必要性已得到公认。然而，除了模型可解释性之外，理解预处理方法同样至关重要。理解数据修改如何影响模型性能提升和潜在偏差，并促进可靠的流程，对于开发鲁棒的机器学习解决方案是必不可少的。孤立森林（iForest）是一种广泛使用且性能优异的异常检测技术。其有效性随基于树的基学习器数量增加而提高。然而，这也使得对异常值选择及正常值决策边界的解释变得复杂。本研究引入一种新颖的可解释人工智能（XAI）方法，旨在解决全局可解释性问题。具体而言，它旨在为异常检测提供全局解释，以揭示其不透明的本质。我们的方法基于决策谓词图（DPG），该图阐明了集成方法的逻辑，并利用所提出的正常-异常传播分数（IOP-Score），提供见解和基于图的度量来解释样本如何被识别为异常值。我们的方案增强了iForest的可解释性，并提供了决策过程的全面视图，详细说明了哪些特征有助于异常识别以及模型如何利用这些特征。该方法通过提供对决策边界的洞察以及对异常识别中整体特征使用的全面视图，推动了当前技术水平的发展——从而促进了一个完全可解释的机器学习流程。