MGSA：面向知识图谱到文本生成的多粒度图结构注意力
计算与语言
2024-09-24 v2 人工智能
摘要
知识图谱到文本生成任务旨在将结构化知识图谱转化为连贯且人类可读的自然语言文本。该领域近期的工作侧重于通过结合图结构信息来增强预训练语言模型 (PLM)，以捕获知识图谱的复杂结构细节。然而，这些方法大多倾向于仅捕获单一粒度的结构信息，要么集中在原始图中实体之间的关系，要么集中在同一实体内或不同实体间词与词之间的关系。这种狭隘的关注点导致了一个显著的局限性：仅关注实体级结构的模型无法捕获词与词之间细微的语义关系，而仅关注词级结构的模型则忽略了原始整个实体之间更广泛的关系。为了克服这些局限性，本文引入了基于 PLM 的多粒度图结构注意力 (MGSA)。该模型架构的编码器包含一个实体级结构编码模块、一个词级结构编码模块，以及一个聚合来自两种结构信息的聚合模块。这种多粒度结构编码方法使模型能够同时捕获实体级和词级结构信息，从而更全面地理解知识图谱的结构信息，进而显著提高生成文本的质量。我们使用两个广泛认可的 KG-to-Text 生成基准数据集 WebNLG 和 EventNarrative 对 MGSA 模型进行了广泛评估，其表现始终优于仅依赖单一粒度结构信息的模型，证明了我们方法的有效性。
引用
@article{arxiv.2409.10294,
title = {MGSA: Multi-Granularity Graph Structure Attention for Knowledge Graph-to-Text Generation},
author = {Shanshan Wang and Chun Zhang and Ning Zhang},
journal= {arXiv preprint arXiv:2409.10294},
year = {2024}
}