通过选择性分配通道训练 CNN
机器学习
2019-05-14 v1 计算机视觉与模式识别
机器学习
摘要
深度卷积神经网络（CNNs）最近的进展使得一种简单的架构设计范式成为可能：更大的模型通常获得更好的精度。因此，在现代 CNN 架构中，设计在特定资源约束（例如参数数量）下具有良好泛化能力的模型变得更加重要。在本文中，我们提出了一种简单的方法，在不增加更多参数的情况下，提升任何具有大规模特征的 CNN 模型的容量。具体而言，我们修改标准卷积层使其具备通道选择性的新功能，从而该层被训练为选择重要通道以重新分配其参数。我们在各种 CNN 架构和数据集下的实验结果表明，与基线相比，所提出的新卷积层通过高效的资源利用允许新的、泛化更好的最优解。
引用
@article{arxiv.1905.04509,
title = {Training CNNs with Selective Allocation of Channels},
author = {Jongheon Jeong and Jinwoo Shin},
journal= {arXiv preprint arXiv:1905.04509},
year = {2019}
}
备注
15 pages; Accepted to ICML 2019