LMTurk：语言模型即服务框架中将少样本学习器作为众包工人的方法
计算与语言
2022-05-03 v2
摘要
人们已投入大量精力创建高性能少样本学习器，即在少量下游任务训练数据下即可表现良好的大规模预训练语言模型（PLMs）。训练 PLMs 已产生显著成本，但由于其规模庞大，利用这些少样本学习器仍具挑战性。本工作聚焦于一个关键问题：如何有效利用这些少样本学习器？我们提出 LMTurk，一种将少样本学习器视为众包工人的新方法。其依据是：众包工人事实上就是少样本学习器——他们通过少量示例了解任务，然后开始标注。LMTurk 采用基于 PLMs 构建的少样本学习器作为工人。我们表明，由此产生的标注可用于训练能良好解决任务且规模足够小、可在实际场景中部署的模型。LMTurk 集成了主动学习以减少对 PLMs 的查询次数，从而最小化运行 PLM 推理过程的计算成本。总体而言，LMTurk 是有效利用当前 PLMs 的重要一步。
引用
@article{arxiv.2112.07522,
title = {LMTurk: Few-Shot Learners as Crowdsourcing Workers in a Language-Model-as-a-Service Framework},
author = {Mengjie Zhao and Fei Mi and Yasheng Wang and Minglei Li and Xin Jiang and Qun Liu and Hinrich Schütze},
journal= {arXiv preprint arXiv:2112.07522},
year = {2022}
}
备注
Findings of ACL: NAACL 2022