从网络流视角理解前馈人工神经网络模型
机器学习
2017-04-27 v1
摘要
近年来，基于人工神经网络(ANN)的深度学习在模式识别中取得了巨大成功。然而，对此类神经计算模型仍缺乏清晰理解。本文尝试从网络流角度揭示ANN模型的“黑盒”结构。具体而言，我们将前馈ANN视为一个网络流模型，其由许多有向的类别路径(class-pathway)组成。每个类别路径编码一个类别。某类的类别路径通过连接每层中被激活的神经节点从输入到输出得到，其中神经节点的激活值（节点值）由训练好的ANN分类器中每层的权重定义。从类别路径的视角，训练一个ANN分类器可视为不同类别的类别路径的形成过程。通过分析训练好的ANN分类器中任意两条类别路径之间的距离，我们试图回答分类器为何表现如此的问题。最后，从神经编码视角，我们通过类别路径定义每个神经节点的重要性，这有助于优化分类器结构。针对两类ANN模型（包括多层MLP和CNN）的实验验证了基于类别路径的网络流是ANN模型的合理解释。
引用
@article{arxiv.1704.08068,
title = {Understanding the Feedforward Artificial Neural Network Model From the Perspective of Network Flow},
author = {Dawei Dai and Weimin Tan and Hong Zhan},
journal= {arXiv preprint arXiv:1704.08068},
year = {2017}
}
备注
arXiv admin note: text overlap with arXiv:1702.04595 by other authors