中文

深度学习时代的词对齐:一份教程

计算与语言 2022-12-02 v1

摘要

词对齐任务尽管在统计机器翻译(SMT)时代非常突出,但如今却是一个小众且探索不足的领域。在这份分为两部分的教程中,我们论证了词对齐的持续相关性。第一部分提供了词对齐作为传统 SMT 流水线核心组件的历史背景。我们重点关注 GIZA++,这是一个具有惊人生命力的无监督统计词对齐器。跳转到神经机器翻译(NMT)时代,我们展示了词对齐的见解如何启发了当今 NMT 基础的注意力机制。第二部分转向综述方法。我们涵盖了神经词对齐器,展示了在超越 GIZA++ 性能方面缓慢但稳步的进展。最后,我们涵盖了词对齐的当今应用,从跨语言标注投影到改进翻译。

关键词

引用

@article{arxiv.2212.00138,
  title  = {Word Alignment in the Era of Deep Learning: A Tutorial},
  author = {Bryan Li},
  journal= {arXiv preprint arXiv:2212.00138},
  year   = {2022}
}