为何建模“为何”：评估 LIME 的优势与局限
机器学习
2020-12-02 v1
摘要
对于常被称为黑盒的复杂机器学习模型，理解其底层决策过程对于医疗保健和金融服务等领域，以及在与自动驾驶汽车等安全关键系统结合使用时至关重要。因此，近年来对可解释人工智能（xAI）工具和技术的兴趣有所增加。然而，现有 xAI 框架的有效性，特别是涉及处理数据而非图像的算法时，仍是一个开放的研究问题。为弥补这一空白，本文我们考察了局部可解释模型无关解释（LIME）这一文献中最流行的模型无关框架之一的有效性，重点关注其在使表格模型更具可解释性方面的表现。具体而言，我们将若干最先进的机器学习算法应用于一个表格数据集，并展示如何利用 LIME 补充传统的性能评估方法。此外，我们通过一项涉及不熟悉 LIME 参与者的可用性研究，以及基于国际标准化组织 9241-11:1998 标准衍生的评估框架，评估 LIME 输出结果的可理解性及其整体可用性。
引用
@article{arxiv.2012.00093,
title = {Why model why? Assessing the strengths and limitations of LIME},
author = {Jürgen Dieber and Sabrina Kirrane},
journal= {arXiv preprint arXiv:2012.00093},
year = {2020}
}
备注
13 pages, 4 figures