中文

不要只听,运用你的想象:利用视觉常识处理非视觉任务

计算机视觉与模式识别 2015-07-30 v3

摘要

当今的人工代理可以回答事实性问题。但在需要常识推理的问题上它们表现不足。或许这是因为大多数现有常识数据库依赖文本来学习和表示知识。但许多常识知识未被写下——部分因为它往往不够有趣而不被谈及,部分因为某些常识用文本表达不自然。虽未写下,却非未见。在本文中,我们利用从图像学习的语义常识知识——即视觉常识——用于两个文本任务:填空和视觉释义。我们提议“想象”文本背后的场景,并在回答这些问题时除了文本线索外还利用“想象”场景的视觉线索。我们将场景想象为视觉抽象。我们的方法在这些任务上优于强大的纯文本基线。我们提出的任务可作为基准定量评估在“超越识别”任务上的进展。我们的代码和数据集公开可用。

关键词

引用

@article{arxiv.1502.06108,
  title  = {Don't Just Listen, Use Your Imagination: Leveraging Visual Common Sense for Non-Visual Tasks},
  author = {Xiao Lin and Devi Parikh},
  journal= {arXiv preprint arXiv:1502.06108},
  year   = {2015}
}