具有交替更新团块结构的卷积神经网络
计算机视觉与模式识别
2018-04-04 v3
摘要
改善深度网络中的信息流有助于缓解训练困难并更有效地利用参数。在此我们提出一种具有交替更新团块（CliqueNet）的新型卷积神经网络架构。与先前的网络不同，同一块中任意两层之间都存在前向和反向连接。这些层被构建为一个环路并交替更新。CliqueNet 具有一些独特性质。对于每一层，它既是同块中任何其他层的输入也是其输出，从而层间信息流被最大化。在传播过程中，新更新的层被拼接以重新更新先前已更新的层，且参数被多次复用。这种循环反馈结构能够将更高层的视觉信息回传以细化低层滤波器并实现空间注意力。我们分析了不同阶段生成的特征，并观察到使用细化特征可带来更好的结果。我们采用多尺度特征策略，有效避免了参数的渐进式增长。在包括 CIFAR-10、CIFAR-100、SVHN 和 ImageNet 的图像识别数据集上的实验表明，我们提出的模型以更少的参数实现了最先进的性能。
引用
@article{arxiv.1802.10419,
title = {Convolutional Neural Networks with Alternately Updated Clique},
author = {Yibo Yang and Zhisheng Zhong and Tiancheng Shen and Zhouchen Lin},
journal= {arXiv preprint arXiv:1802.10419},
year = {2018}
}
备注
Accepted in CVPR 2018 as Oral presentation. Code available at https://github.com/iboing/CliqueNet