结合平均池化的随机子采样

深度神经网络的正则化一直是实现更高泛化性能而不产生过拟合问题的重要课题。尽管流行的 Dropout 方法提供了正则化效果，但它会导致输出不一致的属性，这可能会降低深度神经网络的性能。在本研究中，我们提出了一个名为随机平均池化的新模块，它在池化中引入了类似 Dropout 的随机性。我们描述了随机子采样和平均池化的属性，并利用它们设计了一个没有任何不一致问题的模块。随机平均池化实现了正则化效果，且不会因不一致问题导致潜在的性能下降，并且可以轻松插入现有的深度神经网络架构中。实验表明，将现有的平均池化替换为随机平均池化可在各种任务、数据集和模型上产生一致的改进。