含标签噪声的卷积网络织物剪枝
机器学习
2022-02-16 v1 神经与进化计算
摘要
本文提出一种在存在噪声训练与测试数据情况下，面向卷积网络织物（CNF）的迭代剪枝策略。随着神经网络模型规模持续增长，诸多研究者已开发剪枝方法以构建更紧凑、资源需求更少的网络结构，同时保持性能。如本文所示，由于其内在结构与功能，卷积网络织物是理想的剪枝对象。我们提出一系列剪枝策略，通过剪除整个卷积滤波器或单个权重，在保持网格视觉可理解且整体执行质量处于可控边界的同时，显著缩减最终网络规模与所需训练时间。我们的方法可在训练期间迭代应用，使网络复杂度快速下降，节省计算时间。本文探讨数据依赖与数据独立两类策略，并通过实验确定在训练或测试数据含标注错误时的最高效途径。
引用
@article{arxiv.2202.07268,
title = {Convolutional Network Fabric Pruning With Label Noise},
author = {Ilias Benjelloun and Bart Lamiroy and Efoevi Koudou},
journal= {arXiv preprint arXiv:2202.07268},
year = {2022}
}