早期退出卷积神经网络

本文旨在开发一种降低卷积神经网络（CNN）推理计算成本的方法。传统上，输入数据通过一个固定的神经网络架构。然而，简单的样本可以在处理的早期阶段被分类，而传统网络并未考虑这一点。在本文中，我们引入了“早期退出CNN”（简称EENets），它通过在特定退出位置停止推理过程，根据输入自适应地调整其计算成本。在EENets中，存在多个退出块，每个退出块由一个置信度分支和一个softmax分支组成。置信度分支计算在该位置退出（即停止推理过程）的置信度分数；而softmax分支输出一个分类概率向量。两个分支都是可学习的，并且它们的参数是分开的。在EENets的训练过程中，除了经典的分类损失外，推理的计算成本也被考虑在内。因此，网络使其多个置信度分支适应输入，从而为简单样本花费更少的计算量。推理过程与传统的前馈网络相同，但是，当某个置信度分支的输出大于某个阈值时，该特定样本的推理过程就会停止。EENets的思想适用于现有的CNN架构，如ResNets。通过在MNIST、SVHN、CIFAR10和Tiny-ImageNet数据集上的全面实验，我们表明早期退出（EE）ResNets在实现与其非EE版本相似准确率的同时，将计算成本降低到原来的20%。代码可在 https://github.com/eksuas/eenets.pytorch 获取。