用于重叠关系抽取的正则化注意力胶囊网络

远监督关系抽取因其较少依赖人力而在知识库构建中得到广泛应用。然而，远监督中自动建立的训练数据集包含带有噪声词与重叠关系的低质量实例，给关系的准确抽取带来巨大挑战。为解决该问题，我们提出一种新颖的正则化注意力胶囊网络（RA-CapNet），以更好地识别每个非正式句子中的高度重叠关系。为发现实例中的多种关系特征，我们将多头注意力嵌入胶囊网络作为低级胶囊，其中两个实体的差作为一种新形式的关系查询，以无视位置地选取显著特征。为进一步区分重叠关系特征，我们设计分歧正则化，显式地鼓励多个注意力头与低级胶囊之间的多样性。在广泛使用的数据集上进行的大量实验表明，我们的模型在关系抽取上取得了显著提升。