面向句子对分类的少样本学习及其在软件工程中的应用
软件工程
2023-06-16 v1
摘要
少样本学习——即利用有限数据训练模型的能力——在自然语言处理（NLP）领域日益流行，因为诸如GPT和T0等大型语言模型经实证已被证明仅需少量标注样本即可在众多任务中取得高性能。诸如BERT及其变体的较小语言模型，在与模式利用训练（PET）和SetFit等少样本学习算法结合时，也被证明仅需少量标注样本即可取得强劲性能。本工作的重点是研究基于BERT的模型中不同少样本学习方法的性能。具体而言，我们在多种训练集规模下，针对众多基于BERT的 checkpoint 比较了原始微调、PET和SetFit。为便于该调研，我们考虑了少样本学习在软件工程中的应用。对于每个任务，通过详实的实证分析确定了高性能技术及其关联的模型checkpoint。我们的结果确立了PET作为一种强少样本学习方法，且分析表明仅需数百个标注样本，它即可达到接近在全量数据集上微调的性能。
引用
@article{arxiv.2306.08058,
title = {Few-shot learning for sentence pair classification and its applications in software engineering},
author = {Robert Kraig Helmeczi and Mucahit Cevik and Savas Yıldırım},
journal= {arXiv preprint arXiv:2306.08058},
year = {2023}
}
备注
31 pages, 4 figures