EDITOR：一种带重定位的基于编辑的 Transformer，用于带软词汇约束的神经机器翻译
计算与语言
2021-01-21 v2 机器学习
摘要
我们提出一种带重定位的基于编辑的 Transformer（EDITOR），它通过无缝允许用户指定输出词汇选择上的偏好，使序列生成具有灵活性。基于近期非自回归序列生成模型（Gu et al., 2019），EDITOR 通过迭代编辑假设来生成新序列。它依赖于一种新颖的重定位操作，该操作旨在将词汇选择从词位置决策中解耦，同时实现用于模仿学习的高效 oracle 以及解码时的并行编辑。实证上，EDITOR 比 Levenshtein Transformer（Gu et al., 2019）更有效地使用软词汇约束，同时相比约束集束搜索（Post and Vilar, 2018）大幅加速解码。EDITOR 在标准罗马尼亚语-英语、英语-德语和英语-日语机器翻译任务上，也取得了可比或更好的翻译质量，并具备比 Levenshtein Transformer 更快的解码速度。
引用
@article{arxiv.2011.06868,
title = {EDITOR: an Edit-Based Transformer with Repositioning for Neural Machine Translation with Soft Lexical Constraints},
author = {Weijia Xu and Marine Carpuat},
journal= {arXiv preprint arXiv:2011.06868},
year = {2021}
}
备注
TACL 2021