神经原语语言重构
计算与语言
2024-04-25 v1 机器学习
摘要
原语形式重构一直是语言学家们头疼的工作。最近,近似神经网络模型如RNN和Transformer被提出用于自动化这一过程。我们采用三种不同的方法来改进前述方法,包括数据增强以恢复缺失的反射,以及在Transformer模型中引入VAE结构进行原语到语言的预测,以及使用神经机器翻译模型进行重构任务。我们发现,除了引入VAE结构之外,Transformer模型在WikiHan数据集上表现更好,数据增强步骤还能稳定训练过程。
关键词
引用
@article{arxiv.2404.15690,
title = {Neural Proto-Language Reconstruction},
author = {Chenxuan Cui and Ying Chen and Qinxin Wang and David R. Mortensen},
journal= {arXiv preprint arXiv:2404.15690},
year = {2024}
}