数据增广:对其在卷积神经网络中有效性的深入考察

增广是决定任何神经网络性能的关键因素,因为它们为模型提供了提升性能的重要优势。其提升模型鲁棒性的能力取决于两个因素,即模型架构和增广类型。增广对数据集极具针对性,并非所有类型的增广都必然对模型性能产生正向影响。因此,有必要识别出在多种数据集上表现持续良好且对架构类型、卷积和所用参数数量保持不变的增广。本文使用3x3卷积与深度可分离卷积,在MNIST、FMNIST和CIFAR10数据集上评估了参数对不同增广技术的影响。统计证据表明,Cutouts和随机水平翻转等技术在参数少和参数多的架构上均表现稳定。深度可分离卷积在参数较多时优于3x3卷积,因其能够构建更深的网络。增广缩小了3x3卷积与深度可分离卷积之间的准确率差距,从而确立了其在模型泛化中的作用。在较高增广数量下,性能未产生显著变化。本文还评估了较多参数下多种增广的协同效应以及较少参数下的拮抗效应。该工作证明,在任何给定的深度学习任务中,需实现架构优势与增广之间的精细平衡以提升模型性能。