SLISEMAP：通过局部解释的监督降维
机器学习
2023-10-16 v2 人工智能
人机交互
摘要
现有的解释黑盒学习模型的方法通常侧重于为特定数据项构建模型行为的局部解释。可以为所有数据项创建全局解释，但这些解释对于复杂黑盒模型通常具有较低保真度。我们提出一种新的监督流形可视化方法 SLISEMAP，它同时为所有数据项寻找局部解释，并构建黑盒模型的（通常为）二维全局可视化，使得具有相似局部解释的数据项被投影到邻近位置。我们给出了该问题的数学推导以及使用 GPU 优化的 PyTorch 库实现的开源实现。我们将 SLISEMAP 与多种流行的降维方法进行比较，发现 SLISEMAP 能够利用有标签数据创建具有一致局部白盒模型的嵌入。我们还将 SLISEMAP 与其他模型无关局部解释方法进行比较，表明 SLISEMAP 提供可媲美的解释，并且这些可视化能够给出对黑盒回归和分类模型更宽泛的理解。
引用
@article{arxiv.2201.04455,
title = {SLISEMAP: Supervised dimensionality reduction through local explanations},
author = {Anton Björklund and Jarmo Mäkelä and Kai Puolamäki},
journal= {arXiv preprint arXiv:2201.04455},
year = {2023}
}
备注
26 pages, 10 figures, 3 tables. This revision replaces the $\lambda_z$ parameter with $z_{radius}$, which is more intuitive and stable. There are also many typographical and clarity improvements. The source code for our implementation of the algorithm (and the experiments) are available from GitHub at https://github.com/edahelsinki/slisemap . Machine Learning (2022)