升级新闻编辑室:面向新闻文章的自动化图像选择系统
多媒体
2020-04-27 v1 计算与语言
计算机视觉与模式识别
机器学习
摘要
我们提出一种自动化图像选择系统,以协助图片编辑为新闻文章挑选合适图像。该系统融合从新闻文章中提取的多个文本来源,并支持多语言输入。它配备字符级词嵌入,既有助于对形态丰富语言(如德语)建模,也有助于在相近语言间迁移知识。文本编码器采用分层自注意力机制,更关注一段文本内的关键词以及新闻文章的信息组成部分。我们在从瑞士地方新闻网站收集的大规模多模态多语言新闻文章文本-图像数据库上对该系统进行了广泛实验。通过与多个基线及消融研究比较,表明该系统在弱监督学习设定下击败了现有的文本-图像检索方法。此外,我们还就使用多文本来源与多语言数据的优势提供了见解。
引用
@article{arxiv.2004.11449,
title = {Upgrading the Newsroom: An Automated Image Selection System for News Articles},
author = {Fangyu Liu and Rémi Lebret and Didier Orel and Philippe Sordet and Karl Aberer},
journal= {arXiv preprint arXiv:2004.11449},
year = {2020}
}
备注
Accepted to ACM Transactions on Multimedia Computing Communications and Applications (ACM TOMM)