MEAL：面向少样本提示的稳定主动学习
计算与语言
2023-11-21 v3
摘要
得益于基础模型，少样本分类已取得巨大进展——此类模型通过 priming 与 prompting 成为高效的少样本学习器。然而，该方法在不同少样本集（数据选择）与不同微调运行（运行变异性）间均具有高方差。这不仅妨碍不同方法的公平比较，更尤其使得少样本学习对许多实际应用过于不可靠。为缓解这些问题，我们为更稳定和有效的少样本学习做出两点贡献：首先，提出新颖的集成方法，并证明其大幅降低运行变异性。其次，引入一种新的用于数据选择的主动学习（AL）准则，并提出首个专门面向基于提示学习的AL方法。实验中，我们表明我们的组合方法MEAL（多提示微调与预测集成结合主动学习）在五个多样任务上将基于提示的微调整体性能提升2.3个点。我们在 https://github.com/akoksal/MEAL 公开分享代码与数据划分。
引用
@article{arxiv.2211.08358,
title = {MEAL: Stable and Active Learning for Few-Shot Prompting},
author = {Abdullatif Köksal and Timo Schick and Hinrich Schütze},
journal= {arXiv preprint arXiv:2211.08358},
year = {2023}
}
备注
EMNLP 2023 Findings