用于变音符号复原的高效卷积神经网络
计算与语言
2019-12-17 v1
摘要
随着机器理解书面文本需求的增长，变音符号复原日益重要。该任务通常建模为序列标注问题，目前双向长短期记忆（BiLSTM）模型提供最优结果。近来，Bai 等人（2018）展示了时间卷积神经网络（TCN）相较循环神经网络（RNN）在序列建模中于性能与计算资源上的优势。由于变音符号复原受益于先前与后续时间步，我们进一步应用并评估 TCN 的变体——非因果 TCN（A-TCN），其融合双向（先前与未来）上下文，而非如 TCN 严格仅融入先前上下文。A-TCN 在阿拉伯语、约鲁巴语和越南语三种语言的变音标注上较 TCN 有显著提升。此外，A-TCN 与 BiLSTM 性能相当，因卷积可并行训练，使 A-TCN 成为 BiLSTM 的高效替代。A-TCN 在推理时显著快于 BiLSTM（每分钟变音标注文本量提升 270%–334%）。
引用
@article{arxiv.1912.06900,
title = {Efficient Convolutional Neural Networks for Diacritic Restoration},
author = {Sawsan Alqahtani and Ajay Mishra and Mona Diab},
journal= {arXiv preprint arXiv:1912.06900},
year = {2019}
}
备注
accepted in EMNLP 2019