无行通用模式(Row-less Universal Schema)
计算与语言
2016-04-22 v1
摘要
通用模式(Universal Schema)联合嵌入知识库与文本模式,以对实体和关系进行推理,用于自动知识库构建与信息抽取。过去,实体对和关系被表示为学习到的向量,其兼容性由评分函数决定,这限制了对未见过文本模式和实体的泛化能力。近来,“无列(column-less)”版本的通用模式已使用组合模式编码器来泛化至所有文本模式。本文中我们迈出下一步,提出一种“无行(row-less)”的通用模式模型,去除了显式的实体对表示。我们不再为训练集中的每个实体对学习向量表示,而是将实体对视为其关系类型的函数。在 FB15k-237 基准上的实验结果表明,我们通过一种基于关系类型注意力(attention)的模型,能够匹配具有显式实体对表示的同类模型的性能。我们进一步证明,该模型在训练期间从未见过的实体对上以近乎相同的准确率运行。
引用
@article{arxiv.1604.06361,
title = {Row-less Universal Schema},
author = {Patrick Verga and Andrew McCallum},
journal= {arXiv preprint arXiv:1604.06361},
year = {2016}
}
备注
AKBC 2016 Workshop