Union-net：一种适配小数据集的深度神经网络模型
计算机视觉与模式识别
2022-12-02 v2
摘要
在实际应用中，通常只能获得小数据集。目前，机器学习的多数实际应用使用基于大数据的经典模型来解决小数据集问题。然而，深度神经网络模型结构复杂、模型参数庞大，且训练需要更先进的设备，这给应用带来了一定困难。因此，本文提出联合卷积的概念，设计了一种具有浅层网络结构、适配小数据集的轻量深度网络模型 union-net。该模型将同一输入的不同组合卷积网络单元结合构成联合模块，每个联合模块等价于一个卷积层；3 个模块间的串行输入输出构成“3 层”神经网络，各联合模块的输出融合相加作为最后卷积层的输入，形成具有 4 层网络结构的复杂网络。它解决了深层网络模型过深、传输路径过长导致底层信息传输丢失的问题。由于模型参数量与通道数较少，能更好地适配小数据集，解决了深层网络模型在小数据集训练时易过拟合的问题。使用公开数据集 cifar10 与 17flowers 进行多分类实验，实验表明 Union-net 模型在大数据集与小程序数据集分类中均表现良好，在日常应用场景中具有较高实用价值。模型代码发布于 https://github.com/yeaso/union-net
引用
@article{arxiv.2012.13044,
title = {Union-net: A deep neural network model adapted to small data sets},
author = {Jingyi Zhou and Qingfang He and Zhiying Lin},
journal= {arXiv preprint arXiv:2012.13044},
year = {2022}
}
备注
23 pages, 9 figures