面向编码器-解码器模型的基于图的词表外词汇过滤
计算与语言
2018-05-30 v1
摘要
编码器-解码器模型通常只采用训练语料库中频繁出现的词，以降低计算成本并排除噪声。然而，该词汇集可能仍包含干扰编码器-解码器模型学习的词。本文提出了一种方法，不仅利用频率，还利用共现信息来为学习编码器选择更合适的词，我们使用 HITS 算法捕获共现信息。我们将提出的方法应用于两个任务：机器翻译和语法错误纠正。对于日英翻译，该方法获得的 BLEU 分数比基线高 0.56 分。在英语语法错误纠正任务上，它也优于基线方法，F0.5 测量值高出 1.48 分。
引用
@article{arxiv.1805.11189,
title = {Graph-based Filtering of Out-of-Vocabulary Words for Encoder-Decoder Models},
author = {Satoru Katsumata and Yukio Matsumura and Hayahide Yamagishi and Mamoru Komachi},
journal= {arXiv preprint arXiv:1805.11189},
year = {2018}
}
备注
8 pages; 2018 ACL Student Research Workshop