中文

时间分辨率递减:利用形状一致性实现更高计算效率

计算机视觉与模式识别 2022-05-26 v2

摘要

图像分辨率与精度和计算成本密切相关,在网络训练中起着关键作用。在本文中,我们观察到降分辨率图像保留了相对完整的形状语义但丢失了大量纹理信息。受形状语义的一致性以及纹理信息的脆弱性启发,我们提出一种名为时间分辨率递减的新型训练策略。其中,我们在时间域随机将训练图像降至较小分辨率。在与降分辨率图像和原始图像交替训练期间,图像中不稳定的纹理信息导致纹理相关模式与正确标签之间的关联较弱,自然地迫使模型更多依赖鲁棒且符合人类决策规则的形状属性。令人惊讶的是,我们的方法大幅提升了卷积神经网络的训练与推理效率。在ImageNet分类上,仅使用33%计算量(在90%的epoch内随机将训练图像降至112×\times112)仍可将ResNet-50从76.32%提升至77.71%。叠加ResNet-50在ImageNet上的强训练流程,我们的方法以节省37.5%计算开销实现了80.42%的top-1准确率。据我们所知,这是在224×\times224下无额外数据或蒸馏的ResNet-50最高ImageNet单裁剪准确率。

关键词

引用

@article{arxiv.2112.00954,
  title  = {Temporally Resolution Decrement: Utilizing the Shape Consistency for Higher Computational Efficiency},
  author = {Tianshu Xie and Xuan Cheng and Minghui Liu and Jiali Deng and Xiaomin Wang and Ming Liu},
  journal= {arXiv preprint arXiv:2112.00954},
  year   = {2022}
}