局部性促进的表示学习
机器学习
2021-03-30 v3 机器学习
摘要
本工作研究卷积神经网络（CNN）中特征学习的相关基本问题。在 VGG、ResNet、Inception、DenseNet 和 MobileNet 等多种架构上的实证发现表明，滤波器中心的权重大于外部的权重。当前的正则化方案违背了这一原则。因此，我们引入局部性促进正则化（LOCO-Reg），在多种架构和数据集上带来准确率提升。我们还从理论证明，该实证发现是在空间局部性假设下最大化特征凝聚性的结果。
引用
@article{arxiv.1905.10661,
title = {Locality-Promoting Representation Learning},
author = {Johannes Schneider},
journal= {arXiv preprint arXiv:1905.10661},
year = {2021}
}