训练后 ConvNet 的超平面排列存在偏置
计算机视觉与模式识别
2023-04-17 v2 机器学习
摘要
我们通过实证研究所卷积层诱导的超平面排列，来考察训练后 ConvNet 在其卷积层预激活空间中所学习函数的几何性质。我们引入关于训练网络权重的统计量来研究局部排列，并将其与训练动态相关联。我们观察到训练后的 ConvNet 对规则超平面构型表现出显著的统计偏置。此外，我们发现对于所考虑的、在 CIFAR10、CIFAR100 和 ImageNet 上训练的架构，呈现偏置排列的层对验证性能至关重要。
引用
@article{arxiv.2003.07797,
title = {Hyperplane Arrangements of Trained ConvNets Are Biased},
author = {Matteo Gamba and Stefan Carlsson and Hossein Azizpour and Mårten Björkman},
journal= {arXiv preprint arXiv:2003.07797},
year = {2023}
}