少样本语言模型微调的冷启动数据选择：一种基于提示的不确定性传播方法
计算与语言
2023-05-10 v2 机器学习
摘要
大语言模型已展现出卓越的少样本性能，但该性能可能对少样本实例的选择敏感。我们提出 PATRON，一种新方法，利用基于提示的不确定性估计，在冷启动场景（即无初始标注数据可用）下进行预训练语言模型微调的数据选择。在 PATRON 中，我们设计（1）一种基于提示的不确定性传播方法以估计数据点的重要性，以及（2）一种先划分再重写（PTR）策略，以在查询标注时提升样本多样性。在六个文本分类数据集上的实验表明，PATRON 以最高 6.9% 的优势优于最强的冷启动数据选择基线。此外，仅用 128 个标签，PATRON 分别达到基于普通微调与基于提示学习的全监督性能的 91.0% 和 92.1%。PATRON 的实现见 \url{https://github.com/yueyu1030/Patron}。
引用
@article{arxiv.2209.06995,
title = {Cold-Start Data Selection for Few-shot Language Model Fine-tuning: A Prompt-Based Uncertainty Propagation Approach},
author = {Yue Yu and Rongzhi Zhang and Ran Xu and Jieyu Zhang and Jiaming Shen and Chao Zhang},
journal= {arXiv preprint arXiv:2209.06995},
year = {2023}
}
备注
ACL 2023 Main Conference. Code: https://github.com/yueyu1030/Patron