使用跨任务最近邻的数据高效微调
计算与语言
2023-05-26 v2
摘要
获取标注数据以训练感兴趣任务的模型通常代价高昂。先前工作表明，在多任务数据上结合任务描述（提示）训练模型可有效地将知识迁移到新任务。为高效构建特定任务模型，我们假设可获取少量（32–1000）无标注目标任务样本，并用其从带有提示的大规模多任务数据池中检索最相似的标注样本。与当前在均匀采样的带提示多任务数据（如 FLAN、T0）上微调模型的做法相比，我们的跨任务最近邻微调方法在数据效率上显著更优。仅使用 P3 池中 2% 的数据且没有任何标注目标任务数据，我们的模型在代表留出任务的 14 个数据集中的 12 个上（包括法律和科学文档问答）以 3–30% 的优势超越在全部可用数据上训练的强基线。类似地，从 SuperNaturalInstructions 中选取约 5% 池量的跨任务最近邻训练的模型，在该池中 12 个留出任务上取得了与最先进模型相当的性能。此外，如通过对 T0-3B 模型在 8 个数据集上少样本微调相对提升 2–23% 所示，我们的方法生成的模型也为目标任务数据的少样本微调提供了优于单一多任务微调模型的初始化。
引用
@article{arxiv.2212.00196,
title = {Data-Efficient Finetuning Using Cross-Task Nearest Neighbors},
author = {Hamish Ivison and Noah A. Smith and Hannaneh Hajishirzi and Pradeep Dasigi},
journal= {arXiv preprint arXiv:2212.00196},
year = {2023}
}
备注
Findings of ACL 2023