用盒嵌入建模细粒度实体类型

神经实体类型标注模型通常将细粒度实体类型表示为高维空间中的向量，但此类空间并不适合建模这些类型间复杂的相互依赖关系。我们研究盒嵌入（将概念嵌入为d维超矩形）捕捉类型层级的能力，即便这些关系未在本体中显式定义。我们的模型将类型与实体提及都表示为盒。每个提及及其上下文被输入基于BERT的模型以在我们的盒空间中嵌入该提及；本质上，该模型利用表层文本中存在的类型学线索来假设该提及的类型表示。盒包含关系可用于推导提及展现给定类型的后验概率以及类型自身间的条件概率关系。我们将方法与基于向量的类型标注模型比较，并在多个实体类型标注基准上观察到最先进的性能。除具竞争力的类型标注性能外，我们的盒基模型在预测一致性（同时预测父类型与子类型）与置信度（即校准）上表现更优，表明盒基模型比向量基模型更好地捕捉了潜在类型层级。