中文

用于课程学习的空间Transformer网络

计算机视觉与模式识别 2021-08-24 v1

摘要

课程学习是一种受生物启发的训练技术,被广泛用于机器学习,以改进优化并更好地训练神经网络,提升收敛速度或所得精度。课程学习的主要理念是从较简单任务开始训练,并逐步提升难度。因此,一个自然的问题是如何确定或生成这些较简单任务。本工作中,我们受空间Transformer网络(STNs)启发,以形成由易到难的课程。由于STNs已被证明能够去除输入图像中的杂波并在图像分类任务中获得更高精度,我们假设经STNs处理的图像可被视为更简单的任务,并用于课程学习。为此,我们研究了利用STNs所生成数据来塑造训练课程的多种策略。我们在带杂波的MNIST与Fashion-MNIST数据集上进行了各类实验,在前者上相较基线获得了3.83.8个百分点分类精度的提升。

关键词

引用

@article{arxiv.2108.09696,
  title  = {Spatial Transformer Networks for Curriculum Learning},
  author = {Fatemeh Azimi and Jean-Francois Jacques Nicolas Nies and Sebastian Palacio and Federico Raue and Jörn Hees and Andreas Dengel},
  journal= {arXiv preprint arXiv:2108.09696},
  year   = {2021}
}