仅在ImageNet上优化CNN架构是否足够？
计算机视觉与模式识别
2023-03-07 v4 机器学习
摘要
基于ImageNet的分类性能是CNN开发的事实标准度量。在本文中，我们质疑仅基于ImageNet的CNN架构设计能够产生在多样化数据集和应用域上表现良好的通用有效卷积神经网络（CNN）架构这一观念。为此，我们研究并最终改进ImageNet作为推导此类架构的基础。我们开展了一项广泛的实证研究，在ImageNet以及来自不同应用域的8个额外知名图像分类基准数据集上训练了从宽泛的AnyNetX设计空间中采样的个CNN架构。我们观察到这些架构的性能高度依赖于数据集。某些数据集甚至在所有架构上与ImageNet呈现出负的误差相关性。我们展示了如何通过利用限制为更少类别的ImageNet子集来显著提升这些相关性。这些贡献可能对我们设计未来CNN架构的方式产生深远影响，并有助于缓解当前社区中过度依赖单一数据集的倾向。
引用
@article{arxiv.2103.09108,
title = {Is it enough to optimize CNN architectures on ImageNet?},
author = {Lukas Tuggener and Jürgen Schmidhuber and Thilo Stadelmann},
journal= {arXiv preprint arXiv:2103.09108},
year = {2023}
}