从语言模型中蒸馏上下位关系:零样本分类法归纳的有效性研究
计算与语言
2022-02-11 v1 人工智能
摘要
在本文中,我们分析了基于通过提示和句子评分从语言模型中蒸馏知识的零样本分类法学习方法。我们证明,尽管这些方法简单,但在适当条件下,它们优于某些有监督策略,并与当前最先进水平具有竞争力。我们还证明,提示的统计和语言属性决定了下游性能。
引用
@article{arxiv.2202.04876,
title = {Distilling Hypernymy Relations from Language Models: On the Effectiveness of Zero-Shot Taxonomy Induction},
author = {Devansh Jain and Luis Espinosa Anke},
journal= {arXiv preprint arXiv:2202.04876},
year = {2022}
}