分段线性神经网络的精确且一致解释:一种闭式解
计算机视觉与模式识别
2019-09-13 v2 人工智能
摘要
由深度神经网络驱动的强智能机器正日益作为黑箱部署于金融和医疗等风险敏感领域以做决策。为降低潜在风险并与用户建立信任,解释此类机器如何决策至关重要。现有工作通过分析隐藏神经元、模仿预训练模型或近似局部预测来解释预训练神经网络。然而,这些方法无法保证其解释的精确性与一致性。本文中,我们提出一种名为 的优雅闭式解,用于计算分段线性神经网络(PLNN)族的精确且一致的解释。主要思想是先将被解释 PLNN 转化为数学等价的线性分类器集合,再通过主导其预测的特征来解释每个线性分类器。我们进一步应用 展示了非负与稀疏约束在提升 PLNN 可解释性上的有效性。在合成与真实世界数据集上的大量实验清楚地证明了我们解释的精确性与一致性。
引用
@article{arxiv.1802.06259,
title = {Exact and Consistent Interpretation for Piecewise Linear Neural Networks: A Closed Form Solution},
author = {Lingyang Chu and Xia Hu and Juhua Hu and Lanjun Wang and Jian Pei},
journal= {arXiv preprint arXiv:1802.06259},
year = {2019}
}
备注
KDD 2018