解释模型预测方法间意想不到的统一性
人工智能
2016-12-09 v3
摘要
理解模型为何做出特定预测在许多数据科学领域至关重要。可解释的预测能建立恰当的信任，并洞察如何改进模型。然而，面对大型现代数据集，最佳准确率往往由连专家都难以解释的复杂模型实现，这在准确性与可解释性之间造成了张力。近来，已提出多种通过估计输入特征重要性来解释复杂模型预测的方法。在此，我们展示了输入特征重要性的模型无关可加表示如何统一了当前的方法。这种表示是最优的，因为它是唯一满足重要性质的可加值集合。我们展示了如何利用这些性质来创建模型预测的新颖视觉解释。这种表示贯穿文献的统一性线索表明，关于模型预测的解释存在可应用于许多场景的通用原则。
引用
@article{arxiv.1611.07478,
title = {An unexpected unity among methods for interpreting model predictions},
author = {Scott Lundberg and Su-In Lee},
journal= {arXiv preprint arXiv:1611.07478},
year = {2016}
}
备注
Presented at NIPS 2016 Workshop on Interpretable Machine Learning in Complex Systems