其余皆非所虑：通过识别预测不变性实现模型无关解释
机器学习
2016-11-18 v1 人工智能
机器学习
摘要
可解释机器学习的核心问题在于人类是否能够对模型的行为做出准确预测。该问题隐含了可解释输出的三个属性：覆盖度、精度和努力。覆盖度指人类认为可以预测模型行为的频率，精度指这些预测的准确性，努力指解释模型所需的前期努力或预测模型行为所需的努力。本工作中，我们提出 anchor-LIME (aLIME)，一种模型无关技术，可产生高精度的基于规则的解释，且其覆盖边界非常清晰。我们将 aLIME 与线性 LIME 通过模拟实验进行比较，并通过来自多个领域和任务的定性示例展示了 aLIME 的灵活性。
引用
@article{arxiv.1611.05817,
title = {Nothing Else Matters: Model-Agnostic Explanations By Identifying Prediction Invariance},
author = {Marco Tulio Ribeiro and Sameer Singh and Carlos Guestrin},
journal= {arXiv preprint arXiv:1611.05817},
year = {2016}
}
备注
Presented at NIPS 2016 Workshop on Interpretable Machine Learning in Complex Systems