iSAGE：一种用于数据流在线解释的 SAGE 增量版本
机器学习
2023-10-31 v2 人工智能
摘要
现有的可解释人工智能（XAI）方法，包括 SAGE 等流行的特征重要性度量，大多局限于批学习场景。然而，机器学习常应用于动态环境中，数据持续到达且必须以在线方式进行学习。因此，我们提出 iSAGE，一种在时间与内存上高效的 SAGE 增量方法，能够应对模型的变化以及数据生成过程中的漂移。我们进一步提供了打破（干预式）和保留（观测式）特征依赖关系的高效特征移除方法。此外，我们形式化分析了我们的解释方法，表明 iSAGE 遵循与 SAGE 类似的理论性质。最后，我们基于公认的数据集和具有概念漂移的数据流，通过详尽的实验分析评估了我们的方法。
引用
@article{arxiv.2303.01181,
title = {iSAGE: An Incremental Version of SAGE for Online Explanation on Data Streams},
author = {Maximilian Muschalik and Fabian Fumagalli and Barbara Hammer and Eyke Hüllermeier},
journal= {arXiv preprint arXiv:2303.01181},
year = {2023}
}