中文

LanideNN:基于字符窗口的多语种语言识别

计算与语言 2017-08-01 v2

摘要

在语言识别(自然语言处理中常见的第一步)中,我们希望自动确定某些输入文本的语言。单语语言识别假定给定文档以一种语言写成。在多语种语言识别中,文档通常包含两到三种语言,而我们仅需要其名称。我们更进一步,提出一种文本语言识别方法,其中语言可任意切换,目标是识别每种语言的跨度。我们的方法基于双向循环神经网络(Bidirectional Recurrent Neural Networks),在涵盖131种语言的六个数据集上的单语和多语种语言识别任务中表现良好。该方法对于短文档和跨领域也保持准确性,因此无需准备训练数据即可开箱即用。

关键词

引用

@article{arxiv.1701.03338,
  title  = {LanideNN: Multilingual Language Identification on Character Window},
  author = {Tom Kocmi and Ondřej Bojar},
  journal= {arXiv preprint arXiv:1701.03338},
  year   = {2017}
}

备注

Accepted to EACL 2017