实体嵌入还是关系嵌入？关系抽取编码策略分析

关系抽取本质上是一个文本分类问题，可以通过微调预训练语言模型 (LM) 来解决。然而，一个关键挑战在于关系抽取不能直接简化为序列或令牌分类。因此，现有方法以间接方式解决该问题：它们微调语言模型以学习头实体和尾实体的嵌入，然后从这些实体嵌入中预测关系。本文的假设是，通过更直接地捕捉关系，可以改进关系抽取模型。具体而言，我们尝试附加一个带有 [MASK] 令牌的提示，将其上下文表示视为关系嵌入。虽然该策略单独使用时显著逊色于上述方法，但我们发现生成的关系嵌入与头尾实体嵌入所捕捉的信息具有高度互补性。通过联合考虑这两种类型的表示，我们最终得到了一个简单的模型，在多个关系抽取基准测试中超越了最先进水平 (SOTA)。