事后可解释性中代理模型的局部性定义
机器学习
2018-06-21 v1 人工智能
机器学习
摘要
局部代理模型用于近似黑盒分类器的局部决策边界，构成了一种为黑盒单个预测背后原理生成解释的方法。本文强调了定义正确局部性（即训练局部代理所用的邻域）对于准确近似局部黑盒决策边界的重要性。遗憾的是，如本文所示，该问题不仅是参数或采样分布挑战，更对局部黑盒决策边界近似的相关性与质量，进而对生成解释的意义与准确性有重大影响。为克服所识别的问题（借助一种适配的度量与流程量化），我们提出基于以决策边界特定位置（与待解释预测相关）而非如经典做法以预测本身为中心的采样，为单个预测生成基于代理的解释。我们在四个 UCI 数据集上将该新颖方法与最先进方法及其一种直接改进进行了比较评估。
引用
@article{arxiv.1806.07498,
title = {Defining Locality for Surrogates in Post-hoc Interpretablity},
author = {Thibault Laugel and Xavier Renard and Marie-Jeanne Lesot and Christophe Marsala and Marcin Detyniecki},
journal= {arXiv preprint arXiv:1806.07498},
year = {2018}
}
备注
presented at 2018 ICML Workshop on Human Interpretability in Machine Learning (WHI 2018), Stockholm, Sweden