通过预训练 Transformer 与知识图谱感知解码实现对话系统接地
计算与语言
2021-03-31 v1
摘要
在面向目标与非目标的对话系统中生成知识接地的回复是一项重要的研究挑战。知识图谱(KG)可视为对真实世界的抽象,有可能促进对话系统产生知识接地的回复。然而,以端到端方式将 KG 集成到对话生成过程中并非易事。本文提出了一种将 KG 集成到回复生成过程中的新架构,通过训练一个 BERT 模型,以多任务端到端设置利用 KG 的元素(实体与关系)进行回答学习。KG 的 k-hop 子图在训练与推理时通过图拉普拉斯(Graph Laplacian)融入模型。实证评估表明,相较于其他 SOTA 模型,该模型在面向目标与非目标的对话中均实现了更好的知识接地性(通过实体 F1 分数衡量)。
引用
@article{arxiv.2103.16289,
title = {Grounding Dialogue Systems via Knowledge Graph Aware Decoding with Pre-trained Transformers},
author = {Debanjan Chaudhuri and Md Rashad Al Hasan Rony and Jens Lehmann},
journal= {arXiv preprint arXiv:2103.16289},
year = {2021}
}
备注
16 pages, 3 figures, accepted at ESWC 2021