追踪CNN中的平移不变性
机器学习
2021-04-20 v2
摘要
尽管卷积神经网络（CNNs）被广泛使用，其平移不变性（处理平移输入的能力）仍存在一些争议。我们使用平移敏感度图来量化标准CNN对平移输入的敏感程度，以此探索该问题。我们提出使用余弦相似度作为敏感度度量而非欧氏距离，并讨论了在比较架构时限制这两种度量维度的必要性。我们的主要焦点是研究标准CNN不同架构组件对该网络平移敏感度的影响。通过改变卷积核大小与零填充量，我们控制所生成特征图的大小，从而能够量化这些元素影响平移不变性的程度。我们还在CNN内不同位置测量平移不变性，以确定卷积层与全连接层各自对CNN整体平移不变性的贡献程度。我们的分析表明，卷积核大小与特征图大小均对平移不变性有系统性影响。我们还看到，卷积层对平移不变性的贡献小于预期，当未被特别强制时。
引用
@article{arxiv.2104.05997,
title = {Tracking translation invariance in CNNs},
author = {Johannes C. Myburgh and Coenraad Mouton and Marelie H. Davel},
journal= {arXiv preprint arXiv:2104.05997},
year = {2021}
}