避免过拟合：卷积神经网络正则化方法综述
计算机视觉与模式识别
2022-01-11 v1 机器学习
摘要
若干图像处理任务，如图像分类和目标检测，已借助卷积神经网络（CNN）得到显著改进。如同ResNet和EfficientNet，许多架构在问世时至少在一个数据集上取得了出色结果。训练中的一个关键因素关乎网络的正则化，其防止结构过拟合。本工作分析了近年内发展的若干正则化方法，显示出对不同CNN模型的显著改进。这些工作被分为三个主要方面：第一类称为“数据增强”，所有技术聚焦于对输入数据进行变更；第二类名为“内部改变”，旨在描述修改神经网络生成的特征图或核的过程；最后一类称为“标签”，涉及对给定输入的标签进行变换。相较于其他可用的正则化综述，本工作呈现两点主要不同：（i）其一为文稿中收集的论文均不超过五年；（ii）其二区别在于可复现性，即此处提及的所有工作均具有公开代码仓库或已直接实现于某框架（如TensorFlow或Torch）中。
引用
@article{arxiv.2201.03299,
title = {Avoiding Overfitting: A Survey on Regularization Methods for Convolutional Neural Networks},
author = {Claudio Filipi Gonçalves dos Santos and João Paulo Papa},
journal= {arXiv preprint arXiv:2201.03299},
year = {2022}
}
备注
27 pages