用于卷积神经网络的 α-积分池化
机器学习
2020-03-17 v4 机器学习
摘要
卷积神经网络(CNNs)已在许多应用中取得显著性能,尤其在图像识别任务中。作为 CNNs 的关键组成部分,下采样对于高效训练或不变性属性起着重要作用,最大池化和算术平均池化是常用的下采样方法。然而,除了这两种池化方法外,还可能存在许多其他池化类型,例如几何平均、调和平均等。由于算法难以找到最佳池化方法,通常池化类型是预先设定的,这对于不同任务可能并非最优。遵循深度学习哲学,池化类型可由数据针对给定任务驱动。在本文中,我们提出 {\it -积分池化}(I-pooling),其具有可训练参数 以寻找池化类型。I-pooling 是一种通用池化方法,包含最大池化和算术平均池化作为特例,取决于参数 。实验表明,I-pooling 在图像识别任务中优于包括最大池化在内的其他池化方法。此外,结果表明每一层具有不同的最优池化类型。
引用
@article{arxiv.1811.03436,
title = {Alpha-Integration Pooling for Convolutional Neural Networks},
author = {Hayoung Eom and Heeyoul Choi},
journal= {arXiv preprint arXiv:1811.03436},
year = {2020}
}