作为可训练池化层的集合聚合网络
机器学习
2020-01-23 v3 人工智能
计算机视觉与模式识别
机器学习
摘要
全局池化，如最大池化或求和池化，是用于处理图像、文本、图及其他类型结构化数据的深度神经网络中的关键组成部分之一。基于 Zaheer 等人（NIPS 2017）提出的近期 DeepSets 架构，我们引入集合聚合网络（SAN）作为一种替代的全局池化层。与典型的池化算子不同，SAN 允许将给定特征集合嵌入到任意大小的向量表示中。我们表明，通过调整嵌入大小，SAN 能够保留来自输入的完整信息。在实验中，我们证明用 SAN 替换全局池化层可提升分类准确率。此外，它更不易过拟合，并可用作正则化器。
引用
@article{arxiv.1810.01868,
title = {Set Aggregation Network as a Trainable Pooling Layer},
author = {Łukasz Maziarka and Marek Śmieja and Aleksandra Nowak and Jacek Tabor and Łukasz Struski and Przemysław Spurek},
journal= {arXiv preprint arXiv:1810.01868},
year = {2020}
}
备注
ICONIP 2019