增量置换特征重要性(iPFI)：面向数据流在线解释
机器学习
2023-10-31 v2 人工智能
摘要
可解释人工智能(XAI)迄今主要关注静态学习场景。我们感兴趣的是数据逐步采样、以增量而非批处理模式进行学习的动态场景。我们寻求计算特征重要性(FI)度量的高效增量算法，具体而言，一种基于缺失特征边缘化的、类似于置换特征重要性(PFI)的增量FI度量。我们提出一种高效、模型无关的算法iPFI，用于在动态建模条件（包括概念漂移）下增量估计该度量。我们从期望和方差角度给出了近似质量的理論保证。为验证我们的理论发现以及相比传统批处理PFI方法的有效性，我们在含和不含概念漂移的基准数据上进行了多项实验研究。
引用
@article{arxiv.2209.01939,
title = {Incremental Permutation Feature Importance (iPFI): Towards Online Explanations on Data Streams},
author = {Fabian Fumagalli and Maximilian Muschalik and Eyke Hüllermeier and Barbara Hammer},
journal= {arXiv preprint arXiv:2209.01939},
year = {2023}
}