中文

面向无监督图像字幕的循环关系记忆网络

计算机视觉与模式识别 2020-06-25 v1

摘要

无标注的无监督图像字幕是计算机视觉中新兴挑战,现有方法通常采用 GAN(生成对抗网络)模型。本文中,我们提出一种新颖的基于记忆的网络而非 GAN,名为循环关系记忆网络(R2MR^2M)。与复杂且敏感、对长句生成表现不理想的对抗学习不同,R2MR^2M 通过两阶段记忆机制——融合与循环记忆——实现概念到句子的记忆转译,关联常见视觉概念与所生成词语间的关系推理并维持长期。R2MR^2M 通过在图像上无监督训练编码视觉上下文,同时使记忆以监督方式从无关文本语料学习。我们的方案比基于 GAN 的方法具有更少可学参数与更高计算效率,后者严重承受参数敏感性。我们在所有基准数据集上实验验证了 R2MR^2M 优于最先进方法。

关键词

引用

@article{arxiv.2006.13611,
  title  = {Recurrent Relational Memory Network for Unsupervised Image Captioning},
  author = {Dan Guo and Yang Wang and Peipei Song and Meng Wang},
  journal= {arXiv preprint arXiv:2006.13611},
  year   = {2020}
}

备注

Appearing at IJCAI 2020