“我为何要信任你？”：解释任意分类器的预测
机器学习
2016-08-10 v3 人工智能
机器学习
摘要
尽管机器学习模型被广泛采用，但它们大多仍是黑箱。然而，理解预测背后的原因对于评估信任至关重要，如果要根据预测采取行动或选择是否部署新模型，信任是基础。这种理解还提供了对模型的洞察，可用于将不可信的模型或预测转变为可信的。在这项工作中，我们提出LIME，一种新颖的解释技术，通过学习预测点局部的可解释模型，以可解释且忠实的方式解释任何分类器的预测。我们还提出一种通过以非冗余方式呈现具有代表性的个体预测及其解释来解释模型的方法，将该任务构建为子模优化问题。我们通过解释文本（例如随机森林）和图像分类（例如神经网络）的不同模型展示了这些方法的灵活性。我们通过新颖的实验（包括模拟和涉及人类受试者的实验）在各种需要信任的场景中展示了解释的效用：决定是否应信任预测、在模型之间选择、改进不可信的分类器，以及识别分类器为何不应被信任。
引用
@article{arxiv.1602.04938,
title = {"Why Should I Trust You?": Explaining the Predictions of Any Classifier},
author = {Marco Tulio Ribeiro and Sameer Singh and Carlos Guestrin},
journal= {arXiv preprint arXiv:1602.04938},
year = {2016}
}