中文

用于卷积神经网络的 α-积分池化

机器学习 2020-03-17 v4 机器学习

摘要

卷积神经网络(CNNs)已在许多应用中取得显著性能,尤其在图像识别任务中。作为 CNNs 的关键组成部分,下采样对于高效训练或不变性属性起着重要作用,最大池化和算术平均池化是常用的下采样方法。然而,除了这两种池化方法外,还可能存在许多其他池化类型,例如几何平均、调和平均等。由于算法难以找到最佳池化方法,通常池化类型是预先设定的,这对于不同任务可能并非最优。遵循深度学习哲学,池化类型可由数据针对给定任务驱动。在本文中,我们提出 {\it α\alpha-积分池化}(α\alphaI-pooling),其具有可训练参数 α\alpha 以寻找池化类型。α\alphaI-pooling 是一种通用池化方法,包含最大池化和算术平均池化作为特例,取决于参数 α\alpha。实验表明,α\alphaI-pooling 在图像识别任务中优于包括最大池化在内的其他池化方法。此外,结果表明每一层具有不同的最优池化类型。

关键词

引用

@article{arxiv.1811.03436,
  title  = {Alpha-Integration Pooling for Convolutional Neural Networks},
  author = {Hayoung Eom and Heeyoul Choi},
  journal= {arXiv preprint arXiv:1811.03436},
  year   = {2020}
}