X-Shot：一个在分类中同时处理频繁样本、少样本和零样本学习的统一系统
计算与语言
2024-03-07 v1
摘要
近年来，学习利用有限标注实例预测标签的少样本和零样本学习引起了广泛关注。传统方法通常将频繁样本（freq-shot；拥有大量实例的标签）、少样本和零样本学习视为不同的挑战，仅针对其中一种场景优化系统。然而，在现实世界设置中，标签出现频率差异巨大。有些标签可能出现数千次，而另一些可能仅零星出现或根本不出现。对于实际部署而言，系统能够适应任何标签出现情况至关重要。我们引入了一种新的分类挑战：X-shot，反映了频繁样本、少样本和零样本标签在没有预定义限制的情况下共存的现实世界语境。此处，X 的范围可从 0 到正无穷。X-shot 的核心在于开放域泛化以及设计一个足够通用的系统以管理各种标签场景。为解决 X-shot，我们提出了 BinBin（基于指令遵循的二元推理），该方法利用通过指令遵循从大量 NLP 任务中获得的间接监督，并由大语言模型提供的弱监督加以增强。BinBin 在多个领域的三个基准数据集上超越了以往的最先进技术。据我们所知，这是首项解决 X 保持可变的 X-shot 学习的工作。
引用
@article{arxiv.2403.03863,
title = {X-Shot: A Unified System to Handle Frequent, Few-shot and Zero-shot Learning Simultaneously in Classification},
author = {Hanzi Xu and Muhao Chen and Lifu Huang and Slobodan Vucetic and Wenpeng Yin},
journal= {arXiv preprint arXiv:2403.03863},
year = {2024}
}