通过自编码器联合训练实现可解释且可组合的关系学习

实体与关系的嵌入模型对于知识库中缺失事实的复原极为有用。直观上，一个关系可由映射实体向量的矩阵建模。然而，关系存在于任意矩阵参数空间中的低维子流形上——原因之一在于，两个关系 $\boldsymbol{M}_1,\boldsymbol{M}_2$ 的组合可能匹配第三个关系 $\boldsymbol{M}_3$（例如，currency_of_country 与 country_of_film 关系的组合通常匹配 currency_of_film_budget），这给参数施加了需满足的组合约束（即 $\boldsymbol{M}_1\cdot \boldsymbol{M}_2\approx \boldsymbol{M}_3$）。本文研究了一种通过自编码器联合训练关系来进行降维的技术，期望其能更好地捕捉组合约束。我们在知识库补全任务上取得了当前最优（state-of-the-art）结果，平均排名（Mean Rank）得到显著提升，并表明与自编码器联合训练可得到关系可解释的稀疏编码，有助于发现组合约束并从组合训练中获益。我们的源代码发布于 github.com/tianran/glimvec。