基于渐进式重训练的卷积神经网络简化

已有核剪枝方法被提出用于加速、简化以及改善卷积神经网络（CNN）模型的解释性。然而，简化模型的效果常低于原始模型。在本文中，我们提出基于客观与主观相关性准则的逐层核消除新方法。在此过程中，仅当当前层被完全简化时才对 CNN 模型进行重训练，通过调整从下一层到第一层的权重并保留未参与该过程的后续层权重。我们称此策略为\emph{渐进式重训练}（progressive retraining），不同于通常在每次简化动作（例如消除一个或少数几个核）后重训练整个模型的核剪枝方法。我们的主观相关性准则利用了人类识别视觉模式的能力，并增进了设计者对简化过程的理解。合适相关性准则与渐进式重训练的结合表明，我们的方法能在相当程度模型简化的同时提升效果。我们还证明，在四个具有挑战性的图像数据集上，我们的方法能比两种流行方法及另一种前沿方法提供更好的结果。