通过结构约束增强神经网络的可解释性
机器学习
2019-09-04 v2 机器学习
摘要
预测精度与模型可解释性是开发机器学习算法以解决现实问题时两个最重要的目标。神经网络以良好的预测性能著称，但缺乏充分的模型可解释性。本文中，我们提出通过以下结构约束来增强神经网络的可解释性：a) 稀疏加性子网络；b) 带正交约束的投影寻踪；以及 c) 光滑函数逼近。由此得到一种可解释神经网络（xNN），在预测性能与模型可解释性之间取得优越平衡。我们推导了所提 xNN 模型的必要且充分的可识别性条件。多个参数通过一种改进的基于反向传播算法计算导数、并借助 Cayley 变换保持投影正交性的小批量梯度下降法同时估计。通过在六种不同情景下的仿真研究，我们将所提方法与若干基准方法进行比较，包括最小绝对收缩与选择算子、支持向量机、随机森林、极限学习机以及多层感知机。结果表明，所提 xNN 模型在保持追求高预测精度灵活性的同时，获得了改善的可解释性。最后，以一个真实数据示例作为展示性应用。
引用
@article{arxiv.1901.03838,
title = {Enhancing Explainability of Neural Networks through Architecture Constraints},
author = {Zebin Yang and Aijun Zhang and Agus Sudjianto},
journal= {arXiv preprint arXiv:1901.03838},
year = {2019}
}