散射网络的可视化与改进
计算机视觉与模式识别
2017-09-06 v1
摘要
由 Mallat 引入的散射变换(Scattering Transforms,或称 ScatterNets)是创建用于模式识别与图像分类任务的定义良好的特征提取器的一个有前景的开端。它们因与卷积神经网络(CNNs)在架构上的相似性而备受关注,同时无需参数学习且仍表现极佳(尤其在受限分类任务中)。本文中,我们使用“DeScatterNet”可视化 ScatterNet 深层所敏感的内容。我们表明 ScatterNets 的高阶对复杂的、类边的模式(棋盘格和波纹边缘)敏感。这些复杂模式可能有益于纹理分类,但与卷积神经网络(CNNs)(当前最先进的图像分类器)第二和第三层可视化的模式截然不同。我们提出这可能是 ScatterNets 与 CNNs 之间当前性能差距的来源(在 CIFAR-10 上 ScatterNet+SVM 对比 ResNet 为 83% vs 93%)。随后我们利用这些可视化工具提出对 ScatterNet 设计的可能增强,表明它们有能力提取更近似于 CNNs 的特征,同时仍定义良好且具有 ScatterNets 基本的不变性属性。
引用
@article{arxiv.1709.01355,
title = {Visualizing and Improving Scattering Networks},
author = {Fergal Cotter and Nick Kingsbury},
journal= {arXiv preprint arXiv:1709.01355},
year = {2017}
}
备注
To Appear in the 27th IEEE International Workshop on Machine Learning For Signal Processing (MLSP) 2017. 6 pages, 3 figures