通过提问在生命周期内学习为图像生成描述
计算机视觉与模式识别
2019-03-22 v3 计算与语言
摘要
为了让人工智能体进入我们的生活,我们需要超越在封闭数据集上的监督学习,具备持续扩展知识的能力。受学生在课堂中学习方式的启发,我们提出一个能够通过向人类提出自然语言问题来持续学习的智能体。我们的智能体由三个交互模块组成:一个执行图像描述生成,一个生成问题,以及一个通过隐式推理智能体不确定性与教师专业性来决定何时提问的决策器。与当前针对完整描述查询图像的主动学习方法相比,我们的智能体能够提出针对性问题以改进生成的描述。智能体在改进后的描述上训练,扩展其知识。我们表明,在具有挑战性的 MSCOCO 数据集上,我们的方法以比基线更少的监督获得了更好的性能。
引用
@article{arxiv.1812.00235,
title = {Learning to Caption Images through a Lifetime by Asking Questions},
author = {Kevin Shen and Amlan Kar and Sanja Fidler},
journal= {arXiv preprint arXiv:1812.00235},
year = {2019}
}
备注
Fixed typos and added contribution list in intro, results remain the same