填充感知神经元
计算机视觉与模式识别
2023-09-18 v1 人工智能
摘要
卷积层是大多数图像相关模型的基本组成部分。这些层默认常采用静态填充策略（如零填充），以控制内部表示的尺度，并允许以边界区域为中心的核激活。本工作中，我们识别出填充感知神经元（PANs），这是一种在绝大多数（若非全部）采用静态填充训练的卷积模型中发现的滤波器。PANs专注于输入边界位置的表征与识别，为模型引入一种空间归纳偏置（例如，某模式通常距离输入边界有多近）。我们提出一种通过其激活识别PANs的方法，并探究其在若干流行预训练模型中的存在，在所探索的所有模型中均发现PANs，数量从数十到数百不等。我们讨论并展示了不同类型的PANs、其核与行为。为理解其相关性，我们测试了它们对模型性能的影响，发现填充与PANs会在数据中引发强烈且具特征的偏置。最后，我们讨论了PANs是否可取，以及其在模型性能、泛化、效率与安全性背景下存在的潜在副作用。
引用
@article{arxiv.2309.08048,
title = {Padding Aware Neurons},
author = {Dario Garcia-Gasulla and Victor Gimenez-Abalos and Pablo Martin-Torres},
journal= {arXiv preprint arXiv:2309.08048},
year = {2023}
}
备注
In 4th Visual Inductive Priors for Data-Efficient Deep Learning Workshop, ICCV 2023