修正训练-测试分辨率差异：FixEfficientNet
计算机视觉与模式识别
2020-11-19 v5 机器学习
摘要
本文对EfficientNet图像分类器在多种近期训练流程下的性能进行了广泛分析，尤其是一种修正训练与测试图像之间差异的流程。所得网络称为FixEfficientNet，在参数量相同的情况下显著优于初始架构。例如，我们的FixEfficientNet-B0在无额外训练数据的情况下于ImageNet上以5.3M参数达到79.3%的top-1准确率。这比使用300M无标签图像训练的Noisy student EfficientNet-B0绝对提升了0.5%。一个在300M无标签图像上以弱监督预训练并进一步用FixRes优化的EfficientNet-L2达到了88.5%的top-1准确率（top-5：98.7%），确立了单裁剪ImageNet的新state of the art。这些改进以比通常用于ImageNet更干净的协议进行了彻底评估，特别地，我们展示了我们的改进在较不易过拟合的ImageNet-v2实验设置以及ImageNet Real Labels中仍然成立。在这两种情况下我们也确立了新的state of the art。
引用
@article{arxiv.2003.08237,
title = {Fixing the train-test resolution discrepancy: FixEfficientNet},
author = {Hugo Touvron and Andrea Vedaldi and Matthijs Douze and Hervé Jégou},
journal= {arXiv preprint arXiv:2003.08237},
year = {2020}
}