中文

PESCO:用于零样本文本分类的提示增强自对比学习

计算与语言 2023-05-25 v1

摘要

我们提出 PESCO,一种新颖的对比学习框架,可大幅提升零样本文本分类性能。我们将文本分类表述为神经文本匹配问题,其中每篇文档被视为查询,系统通过(1)添加提示以增强标签匹配,以及(2)在对比学习的自训练循环中利用检索到的标签丰富训练集,来学习从每个查询到相关类标签的映射。PESCO 在四个基准文本分类数据集上取得了最先进性能。在 DBpedia 上,我们在无任何标注数据的情况下达到了 98.5% 准确率,接近全监督结果。大量实验与分析表明 PESCO 的所有组件对于提升零样本文本分类性能都是必要的。

关键词

引用

@article{arxiv.2305.14963,
  title  = {PESCO: Prompt-enhanced Self Contrastive Learning for Zero-shot Text Classification},
  author = {Yau-Shian Wang and Ta-Chung Chi and Ruohong Zhang and Yiming Yang},
  journal= {arXiv preprint arXiv:2305.14963},
  year   = {2023}
}

备注

accepted by ACL 2023