面向语义解析的零样本迁移学习
计算与语言
2018-08-30 v1 机器学习
机器学习
摘要
尽管神经网络在大型数据集上已展现出令人印象深刻的性能，将这些模型应用于可用数据稀少的任务仍是一个具有挑战性的问题。本文中，我们提出在语义解析任务上采用零样本实验设定下的特征迁移。我们首先引入一种基于对每个样本的领域标签预测来学习多个领域间共享空间的新方法。我们的实验支持该方法在零样本实验设定下相较于当前最优技术在准确率指标上的优越性。在本文第二部分，我们研究了单个领域与样本对语义解析性能的影响。为此我们使用影响函数，并考察领域标签分类损失对每个样本的敏感性。我们的发现表明，跨领域对抗攻击能从即便与目标领域最不相似的领域中识别出对训练有用的样本。用这些有影响的样本扩充我们的训练数据，进一步在词元与序列层级上提升了我们的准确率。
引用
@article{arxiv.1808.09889,
title = {Zero-shot Transfer Learning for Semantic Parsing},
author = {Javid Dadashkarimi and Alexander Fabbri and Sekhar Tatikonda and Dragomir R. Radev},
journal= {arXiv preprint arXiv:1808.09889},
year = {2018}
}