深度图像识别模型中习得等变性的影响因素是什么？
计算机视觉与模式识别
2023-04-10 v2 人工智能
摘要
神经网络对几何变换的等变性可提高数据效率、参数效率以及对域外视角偏移的鲁棒性。当等变性未被设计进神经网络时，网络仍可从数据中学习等变函数。我们通过提出一种改进的等变性度量来量化这种习得的等变性。我们发现了在 ImageNet 上习得的平移等变性与验证准确率之间存在相关性的证据。因此我们研究了什么能增加神经网络中习得的等变性，并发现数据增强、降低的模型容量以及以卷积形式存在的归纳偏置会诱导神经网络中更高的习得等变性。
引用
@article{arxiv.2304.02628,
title = {What Affects Learned Equivariance in Deep Image Recognition Models?},
author = {Robert-Jan Bruintjes and Tomasz Motyka and Jan van Gemert},
journal= {arXiv preprint arXiv:2304.02628},
year = {2023}
}
备注
Accepted at CVPR workshop L3D-IVU 2023