用于图到序列学习的图Transformer
计算与语言
2019-12-03 v2 人工智能
摘要
主流的图到序列转换模型采用图神经网络进行图表示学习，其中结构信息由神经元的感受野反映。与限制即时邻域间信息交换的图神经网络不同，我们提出一种称为图Transformer的新模型，它使用显式关系编码并允许两个远距离节点直接通信，为全局图结构建模提供了更高效的方式。在基于抽象语义表示（AMR）的文本生成和基于句法的神经机器翻译应用上的实验显示了我们所提模型的优越性。具体而言，我们的模型在AMR到文本生成上于LDC2015E86取得27.4 BLEU、于LDC2017T10取得29.7 BLEU，优于当前最优结果至多2.2个点。在基于句法的翻译任务上，我们的模型确立了新的单模型最优BLEU分数：英德21.3、英捷14.1，较包括集成模型在内的现有最佳结果提升超过1 BLEU。
引用
@article{arxiv.1911.07470,
title = {Graph Transformer for Graph-to-Sequence Learning},
author = {Deng Cai and Wai Lam},
journal= {arXiv preprint arXiv:1911.07470},
year = {2019}
}
备注
accepted by AAAI2020