基于变分推断的半监督随机多领域学习
计算与语言
2019-06-10 v1 机器学习
摘要
NLP 的监督模型依赖于大量与预期测试环境高度相似的文本集合。遗憾的是,匹配的文本往往数量不足,而且在任何文本领域内,数据常常高度异构。本文提出一种方法,在多领域学习系统中提炼重要的领域信号,使用潜变量模型,其中神经模型的部分基于推断出的领域进行随机门控。我们比较了离散与连续潜变量在领域监督或领域半监督设置下的使用,后者中仅对训练输入的一个子集已知领域。我们表明,相比具有竞争力的基准领域自适应方法(包括使用对抗学习的方法),我们的模型带来了显著的性能提升。
引用
@article{arxiv.1906.02897,
title = {Semi-supervised Stochastic Multi-Domain Learning using Variational Inference},
author = {Yitong Li and Timothy Baldwin and Trevor Cohn},
journal= {arXiv preprint arXiv:1906.02897},
year = {2019}
}
备注
ACL 2019 (9 pages + 2 references + 1 appendices)