用于引文推荐的双注意力模型

基于呈指数增长的学术文章数量，发现并引用全面且恰当的资源已成为一项重要任务。传统的引文推荐方法存在严重的信息损失。例如，它们未考虑用户正在撰写并需要查找引文的论文章节、局部上下文（描述引文的文本跨度）中词语之间的相关性，或局部上下文中每个词的重要性。这些缺陷使得此类方法不足以向学术手稿推荐恰当的引文。在本研究中，我们提出了一种基于嵌入的神经网络，称为“用于引文推荐的双注意力模型（DACR）”，以在稿件准备过程中推荐引文。我们的方法适配三个维度语义信息的嵌入：局部上下文中的词、结构上下文，以及用户正在处理的章节。设计了一个神经网络，以最大化三种输入（局部上下文词、章节和结构上下文）的嵌入与出现在上下文中的目标引文之间的相似性。该神经网络的核心由自注意力和加性注意力组成，前者旨在捕捉上下文词与结构上下文之间的相关性，后者旨在学习它们的重要性。在真实世界数据集上的实验证明了所提方法的有效性。