解密卷积神经网络:基于匹配滤波视角的教程
信息论
2022-03-24 v3 人工智能
神经与进化计算
math.IT
摘要
深度神经网络(DNN),尤其是卷积神经网络(CNN),是分析大量信号和图像的事实标准。然而,它们的发展和底层原理在很大程度上是以特定且黑盒的方式进行的。为了帮助解密 CNN,我们从基本原理和匹配滤波的视角重新审视了其操作。我们确立,CNN 内部的卷积操作(其核心骨干)代表了一个匹配滤波器,用于检查输入信号/图像中是否存在预定义特征。该视角被证明具有物理意义,并作为 CNN 操作(包括池化、零填充、各种降维方式)逐步教程的基础。从基本原理出发,通过一个详细的数值示例和相应的可视化,详细阐明了前向传递和学习阶段(通过反向传播)。我们希望本教程能帮助为理解和进一步发展深度神经网络提供新的视角和物理直觉。
引用
@article{arxiv.2108.11663,
title = {Convolutional Neural Networks Demystified: A Matched Filtering Perspective Based Tutorial},
author = {Ljubisa Stankovic and Danilo Mandic},
journal= {arXiv preprint arXiv:2108.11663},
year = {2022}
}
备注
21 pages, 9 figures. arXiv admin note: text overlap with arXiv:2108.10751