用于轻量级变音符号复原的扩张卷积神经网络
计算与语言
2022-01-19 v1 人工智能
机器学习
摘要
在以拉丁字母为基础、英语占主导的互联网语言环境中,变音符号复原已成为一项普遍任务。本文中我们描述了一种基于小规模 1D 扩张卷积、在字符级上运作的方法。我们发现,基于 1D 扩张卷积神经网络的解决方案是递归神经网络或语言建模模型在变音符号复原任务上的有竞争力替代方案。我们的解决方案超越了类似规模模型的性能,并且也与更大规模的模型具有竞争力。我们解决方案的一个特点是它甚至可在网页浏览器中本地运行。我们还提供了该基于浏览器的实现的可运行示例。我们的模型在不同语料上进行了评估,重点为匈牙利语。我们针对三个匈牙利语语料就模型的泛化能力进行了比较测量。我们还分析了错误以理解基于语料的自监督训练的局限性。
引用
@article{arxiv.2201.06757,
title = {Dilated Convolutional Neural Networks for Lightweight Diacritics Restoration},
author = {Bálint Csanády and András Lukács},
journal= {arXiv preprint arXiv:2201.06757},
year = {2022}
}
备注
7 pages, 2 figures