一次训练,随处测试:文本分类的零样本学习
计算与语言
2017-12-27 v2
摘要
零样本学习器是能够预测未见类别的模型。在本工作中,我们提出一种用于文本分类的零样本学习方法。我们的方法包括在大规模句子语料上训练模型,以学习句子与其标签嵌入之间的关系。学习这种关系使模型能够泛化到未见过的句子、标签甚至新的数据集,前提是它们能被放入同一嵌入空间。该模型学习预测给定句子是否与某标签相关,而非像其他分类器那样将句子归类为若干可能类别之一。我们针对该任务提出了三种不同的神经网络,并报告了它们在训练所用数据集测试集以及另外两个未经过重训练的标准数据集上的准确率。我们表明,我们的模型在两种情况下都能很好地泛化到新的未见类别。尽管这些模型未达到最先进监督模型的准确率水平,但这无疑是朝自然语言处理通用智能迈进的一步。
引用
@article{arxiv.1712.05972,
title = {Train Once, Test Anywhere: Zero-Shot Learning for Text Classification},
author = {Pushpankar Kumar Pushp and Muktabh Mayank Srivastava},
journal= {arXiv preprint arXiv:1712.05972},
year = {2017}
}
备注
v2 - fixed a citation error, unchanged from v1 otherwise