MacNet：将机器阅读理解知识迁移至序列到序列模型
计算与语言
2019-08-07 v1 机器学习
摘要
机器阅读理解（MC）是自然语言处理的核心问题之一，既要求理解自然语言，也需要具备关于世界的知识。自若干基准数据集发布以来，该领域取得了快速进展，且近期最先进的模型在著名的 SQuAD 评测上甚至超越了人类表现。在本文中，我们将从机器阅读理解中学到的知识迁移到序列到序列任务中，以加深对文本的理解。我们提出了 MacNet：一种面向广泛使用的基于注意力的序列到序列模型的新型编码器-解码器辅助架构。在神经机器翻译（NMT）和抽取式文本摘要上的实验表明，我们提出的框架能显著提升基线模型的性能，并且我们的抽取式文本摘要方法在 Gigaword 数据集上取得了最先进的结果。
引用
@article{arxiv.1908.01816,
title = {MacNet: Transferring Knowledge from Machine Comprehension to Sequence-to-Sequence Models},
author = {Boyuan Pan and Yazheng Yang and Hao Li and Zhou Zhao and Yueting Zhuang and Deng Cai and Xiaofei He},
journal= {arXiv preprint arXiv:1908.01816},
year = {2019}
}
备注
Accepted In NeurIPS 2018