iNNvestigate 神经网络！
机器学习
2018-08-14 v1 机器学习
摘要
近年来，深度神经网络革新了机器学习的诸多应用领域，并且是许多关键决策或预测过程的重要组成部分。因此，领域专家能够理解并分析行为及预测结果至关重要，即便是针对最复杂的神经网络架构。尽管如此，神经网络仍常被视为黑箱。为缓解这一不足，已有许多分析方法被提出，然而参考实现的缺失往往使得方法间的系统性比较成为一项繁重工作。本文提出的 iNNvestigate 库通过为众多分析方法提供统一接口与开箱即用的实现来解决此问题，其中包括 PatternNet、PatternAttribution 以及 LRP 方法的参考实现。为展示 iNNvestigate 的通用性，我们对多种最先进神经网络架构的图像分类结果进行了分析。
引用
@article{arxiv.1808.04260,
title = {iNNvestigate neural networks!},
author = {Maximilian Alber and Sebastian Lapuschkin and Philipp Seegerer and Miriam Hägele and Kristof T. Schütt and Grégoire Montavon and Wojciech Samek and Klaus-Robert Müller and Sven Dähne and Pieter-Jan Kindermans},
journal= {arXiv preprint arXiv:1808.04260},
year = {2018}
}