LaSQuE:通过量词建模与课程学习从解释中改进零样本分类
计算与语言
2022-12-20 v1
摘要
人类智能的一个标志是能够纯粹从语言中学习新概念。近期有几种方法探索了通过自然语言监督来训练机器学习模型。然而,这些方法在利用语言量词(如“总是”或“很少”)以及模仿人类组合学习复杂任务方面存在不足。在此,我们提出 LaSQuE,一种可以通过三种新策略从语言解释中学习零样本分类器的方法——(1)对解释中语言量词的语义进行建模(包括利用序数强度关系,如“总是” > “很可能”),(2)使用基于注意力的机制聚合来自多个解释的信息,以及(3)通过课程学习进行模型训练。凭借这些策略,LaSQuE 优于先前的工作,在泛化到未见过的真实世界分类任务上显示出高达 7% 的绝对增益。
引用
@article{arxiv.2212.09104,
title = {LaSQuE: Improved Zero-Shot Classification from Explanations Through Quantifier Modeling and Curriculum Learning},
author = {Sayan Ghosh and Rakesh R Menon and Shashank Srivastava},
journal= {arXiv preprint arXiv:2212.09104},
year = {2022}
}
备注
Work in progress