基于去噪预训练与数据增强策略的 Transformer 增强型 RDF verbalization
计算与语言
2020-12-02 v1
摘要
由于知识库（KBs）日益普及，RDF 三元组 verbalization 任务的热度不断上升。RDF 三元组的形式化是一种大规模存储事实的简单高效方式。然而，其抽象表示使人类难以解读。为此，WebNLG 挑战赛旨在推动自动化的 RDF 到文本生成。我们提出利用数据增强策略，通过 Transformer 模型从增强数据中进行预训练。实验结果表明，相较于标准训练，在可见类别、未见实体和未见类别上 BLEU 分数分别至少相对提升了 3.73%、126.05% 和 88.16%。
引用
@article{arxiv.2012.00571,
title = {Denoising Pre-Training and Data Augmentation Strategies for Enhanced RDF Verbalization with Transformers},
author = {Sebastien Montella and Betty Fabre and Tanguy Urvoy and Johannes Heinecke and Lina Rojas-Barahona},
journal= {arXiv preprint arXiv:2012.00571},
year = {2020}
}
备注
Accepted at WebNLG+: 3rd Workshop on Natural Language Generation from the Semantic Web