具有密集连接的卷积网络
机器学习
2020-01-09 v1 计算机视觉与模式识别
机器学习
摘要
近期工作表明,如果卷积网络在靠近输入的层与靠近输出的层之间包含更短的连接,则可以显著更深、更准确且训练更高效。本文采纳这一发现并引入密集卷积网络(DenseNet),它以前馈方式将每一层连接到其他每一层。传统具有L层的卷积网络有L个连接——每层与其后续层之间一个——而我们的网络有L(L+1)/2个直接连接。对于每一层,所有前面层的特征图被用作输入,其自身的特征图被用作所有后续层的输入。DenseNet具有若干引人注目的优势:缓解梯度消失问题,鼓励特征复用并大幅提升参数效率。我们在四个极具竞争力的目标识别基准任务(CIFAR-10、CIFAR-100、SVHN和ImageNet)上评估所提架构。DenseNet在其中大多数任务上相较最先进水平(SOTA)取得显著改进,同时所需参数与计算更少即可实现高性能。
引用
@article{arxiv.2001.02394,
title = {Convolutional Networks with Dense Connectivity},
author = {Gao Huang and Zhuang Liu and Geoff Pleiss and Laurens van der Maaten and Kilian Q. Weinberger},
journal= {arXiv preprint arXiv:2001.02394},
year = {2020}
}
备注
Journal(PAMI) version of DenseNet(CVPR'17)