揭开深度 ReLU 网络的黑箱：可解释性、诊断与简化
机器学习
2020-11-10 v1 人工智能
机器学习
摘要
深度神经网络（DNNs）在学习具有强大预测能力的复杂模式方面取得了巨大成功，但它们常被视为缺乏足够透明度与可解释性的“黑箱”模型。尤其在用于关键任务应用时，以严谨数学与实用工具揭密 DNNs 十分重要。本文旨在通过局部线性表示揭开深度 ReLU 网络的黑箱，其利用激活模式将复杂网络解耦为一组等价的局部线性模型（LLMs）。我们开发了一套便捷的基于 LLM 的工具包，用于预训练深度 ReLU 网络的可解释性、诊断与简化。我们提出了局部线性轮廓图及其他可视化方法以进行解释与诊断，以及一种有效的合并策略用于网络简化。所提方法通过仿真示例、基准数据集以及房屋贷款信用风险评估中的真实案例研究加以演示。
引用
@article{arxiv.2011.04041,
title = {Unwrapping The Black Box of Deep ReLU Networks: Interpretability, Diagnostics, and Simplification},
author = {Agus Sudjianto and William Knauth and Rahul Singh and Zebin Yang and Aijun Zhang},
journal= {arXiv preprint arXiv:2011.04041},
year = {2020}
}