ExplainReduce：从众多局部解释生成全局解释
机器学习
2026-05-26 v3 人工智能
人机交互
摘要
最常用的非线性机器学习方法是闭盒模型，对人类不可解释。可解释人工智能（XAI）领域旨在开发工具来检查这些闭盒模型的内部工作原理。常用的 XAI 方法涉及使用简单模型作为局部近似来生成所谓的局部解释；此方法的典型例子包括 LIME、SHAP 和 SLISEMAP。本文展示了如何将大量局部解释简化为少量一个“代理集”中的简单模型，可作为生成式全局解释。该简化程序 ExplainReduce 可形式化为一个优化问题，并使用贪婪 heuristic 有效近似求解。我们表明，对于许多问题，仅需五个解释即可忠实地模拟闭盒模型，且我们的简化程序与其他模型聚合方法相竞争。
引用
@article{arxiv.2502.10311,
title = {ExplainReduce: Generating global explanations from many local explanations},
author = {Lauri Seppäläinen and Mudong Guo and Kai Puolamäki},
journal= {arXiv preprint arXiv:2502.10311},
year = {2026}
}
备注
21 pages with a 36 page appendix, 8 + 39 figures, 1+1 tables. The datasets and source code used in the paper are available at https://github.com/edahelsinki/explainreduce. Accepted for publication in the 4th World Conference on eXplainable Artificial Intelligence (2026)