Ask2Transformers:基于预训练语言模型的零样本领域标注
计算与语言
2021-02-01 v2
摘要
本文提出一种系统,利用不同的预训练语言模型在无任何监督的情况下为 WordNet 同义词集分配领域标签。此外,该系统不限于使用特定的领域标签集合。我们借助不同现成预训练语言模型中编码的知识以及任务表述,来推断特定 WordNet 定义的领域标签。所提出的零样本系统在用于评估的英文数据集上达到了新的最优(state-of-the-art)性能。
引用
@article{arxiv.2101.02661,
title = {Ask2Transformers: Zero-Shot Domain labelling with Pre-trained Language Models},
author = {Oscar Sainz and German Rigau},
journal= {arXiv preprint arXiv:2101.02661},
year = {2021}
}
备注
Accepted on Proceedings of the 11th Global WordNet Conference (GWC 2021).