表示、聚合与约束:一种用于噪声源机器阅读的新架构
计算与语言
2016-11-01 v1
摘要
为了从文本中提取事件信息,机器阅读模型必须学会准确阅读和解释该信息的表达方式。但它也必须像人类读者那样,将众多独立的取值假设聚合成一个连贯的全局分析,并应用反映领域先验知识的全局约束。本工作中,我们专注于从相关新闻文章簇中提取飞机坠毁事件信息的任务,这些文章的标签通过远程监督获得。与以往的机器阅读工作不同,我们假设尽管大多数目标值在大多数簇中频繁出现,但它们也可能缺失或错误。我们引入一种新颖的神经网络架构,以显式建模数据的噪声性质并处理上述学习问题。我们的模型以端到端方式训练,尽管使用了远更少的语言学标注,仍比以往工作提升了超过 12.1 的 F。我们应用因子图约束以促进更连贯的事件分析,并将信念传播推断公式化于循环神经网络的转移中。我们表明该技术额外将最大 F 提升多达 2.8 个点,相较先前最先进水平实现了 的相对提升。
引用
@article{arxiv.1610.09722,
title = {Represent, Aggregate, and Constrain: A Novel Architecture for Machine Reading from Noisy Sources},
author = {Jason Naradowsky and Sebastian Riedel},
journal= {arXiv preprint arXiv:1610.09722},
year = {2016}
}