流式弱子模性：神经网络的即时解释
机器学习
2017-11-27 v3 信息论
机器学习
math.IT
摘要
在许多机器学习应用中，解释黑盒分类器的预测十分重要。例如，深度神经网络为何将一幅图像分配给特定类别？我们将黑盒分类器的可解释性建模为组合最大化问题，并提出了一种高效的流式算法在基数约束下求解该问题。通过扩展 Badanidiyuru 等人 [2014] 的思想，我们针对随机流顺序和弱子模目标函数的情况为算法提供了常数因子近似保证。这是该类通用函数的首个此类理论保证，并且我们还证明了对于最坏情况流顺序不存在此类算法。我们的算法对 Inception V3 预测给出相似解释的速度比 Ribeiro 等人 [2016] 的当前最优 LIME 框架快 倍。
引用
@article{arxiv.1703.02647,
title = {Streaming Weak Submodularity: Interpreting Neural Networks on the Fly},
author = {Ethan R. Elenberg and Alexandros G. Dimakis and Moran Feldman and Amin Karbasi},
journal= {arXiv preprint arXiv:1703.02647},
year = {2017}
}
备注
To appear in NIPS 2017