中文

表示、聚合与约束:一种用于噪声源机器阅读的新架构

计算与语言 2016-11-01 v1

摘要

为了从文本中提取事件信息,机器阅读模型必须学会准确阅读和解释该信息的表达方式。但它也必须像人类读者那样,将众多独立的取值假设聚合成一个连贯的全局分析,并应用反映领域先验知识的全局约束。本工作中,我们专注于从相关新闻文章簇中提取飞机坠毁事件信息的任务,这些文章的标签通过远程监督获得。与以往的机器阅读工作不同,我们假设尽管大多数目标值在大多数簇中频繁出现,但它们也可能缺失或错误。我们引入一种新颖的神经网络架构,以显式建模数据的噪声性质并处理上述学习问题。我们的模型以端到端方式训练,尽管使用了远更少的语言学标注,仍比以往工作提升了超过 12.1 的 F1_1。我们应用因子图约束以促进更连贯的事件分析,并将信念传播推断公式化于循环神经网络的转移中。我们表明该技术额外将最大 F1_1 提升多达 2.8 个点,相较先前最先进水平实现了 50%50\% 的相对提升。

关键词

引用

@article{arxiv.1610.09722,
  title  = {Represent, Aggregate, and Constrain: A Novel Architecture for Machine Reading from Noisy Sources},
  author = {Jason Naradowsky and Sebastian Riedel},
  journal= {arXiv preprint arXiv:1610.09722},
  year   = {2016}
}