PolyNet：极深网络中结构多样性的探索
计算机视觉与模式识别
2017-07-18 v2
摘要
大量研究表明，增加卷积网络的深度或宽度是提升图像识别性能的有效途径。然而，在我们的研究中，我们观察到这两个方向均存在困难。一方面，对极深网络的追求面临着收益递减和训练难度增加的问题；另一方面，加宽网络会导致计算成本和内存需求均呈二次增长。这些困难促使我们在设计深度网络时探索结构多样性，这是超越深度和宽度的新维度。具体而言，我们提出了一系列新模块，即PolyInception，它们可以灵活地单独或组合插入，作为网络不同部分的替代。在架构效率指导下选择PolyInception模块能够在保持可比计算成本的同时提升表达能力。遵循该方向设计的极深PolyNet在ILSVRC 2012基准上展示了相对于最先进方法的显著改进。与Inception-ResNet-v2相比，它将单裁剪的top-5验证错误率从4.9%降低到4.25%，多裁剪的从3.7%降低到3.45%。
引用
@article{arxiv.1611.05725,
title = {PolyNet: A Pursuit of Structural Diversity in Very Deep Networks},
author = {Xingcheng Zhang and Zhizhong Li and Chen Change Loy and Dahua Lin},
journal= {arXiv preprint arXiv:1611.05725},
year = {2017}
}
备注
Tech report