GLIME：一种用于可解释模型无关解释的图形化新方法
机器学习
2021-07-22 v1
摘要
可解释人工智能（XAI）是一个新兴领域，其中一组流程和工具使人类能更好地理解黑盒模型生成的决策。然而，大多数现有的 XAI 工具通常局限于简单的解释，主要量化单个特征对模型输出的影响。因此，人类用户无法理解特征之间如何相互关联以做出预测，而训练模型的内部机制仍然隐藏。本文致力于开发一种新颖的图形化可解释性工具，它不仅指出模型的显著特征，还揭示了特征之间的条件关系以及推理过程，捕捉特征对模型决策的直接和间接影响。所提出的 XAI 方法称为 gLIME，提供图形化的模型无关解释，可在全局（针对整个数据集）或局部尺度（针对特定数据点）上给出。它结合了局部可解释模型无关解释（LIME）与图形最小绝对收缩和选择算子（GLASSO），生成无向高斯图模型。采用正则化将较小的偏相关系数收缩为零，提供更稀疏且更可解释的图形解释。选取两个知名分类数据集（BIOPSY 和 OAI）以确认 gLIME 在多次置换下的鲁棒性和一致性均优于 LIME。具体而言，gLIME 在两个数据集上关于特征重要性的稳定性更高（76%–96%，而 LIME 为 52%–77%）。gLIME 展现出独特潜力，可通过提供信息丰富的图形化解释扩展当前 SOTA XAI 的功能，从而打开黑盒。
引用
@article{arxiv.2107.09927,
title = {GLIME: A new graphical methodology for interpretable model-agnostic explanations},
author = {Zoumpolia Dikopoulou and Serafeim Moustakidis and Patrik Karlsson},
journal= {arXiv preprint arXiv:2107.09927},
year = {2021}
}