通过在输出层邻近处执行池化决策提升准确率

学习 $(2^n\times 2^n)$ 输入的分类任务通常沿整个前馈深度架构包含 $\le n$ 个 $(2\times 2)$ 最大池化(MP)算子。本文使用 CIFAR-10 数据库表明,在最后一个卷积层邻近处进行池化决策可显著提升准确率。具体而言,改进型 VGG(含 $m$ 层,记为 A-VGG$m$)架构在 $m=6, 8, 14, 13, 16$ 时的平均准确率分别为 0.936、0.940、0.954、0.955 和 0.955。结果表明 A-VGG8 的准确率优于 VGG16,且 A-VGG13 与 A-VGG16 的准确率相等,并与 Wide-ResNet16 相当。此外,将三个全连接(FC)层替换为一个 FC 层(A-VGG6 和 A-VGG14)或若干个线性激活 FC 层,得到了相似的准确率。这些显著提升的准确率源于训练最具影响力的输入输出路径,而非沿深度架构多次 MP 决策所筛选出的次要路径。此外,准确率对输出层邻近处非交换的 MP 与平均池化算子的顺序敏感,这会改变训练路径的数量与位置。这些结果呼吁利用所提出的输出层邻近池化策略重新检验先前提出的深度架构及其准确率。