面向语言模型即服务的黑盒调优
计算与语言
2022-06-28 v4 人工智能
摘要
诸如 GPT-3 之类的极大规模预训练语言模型（PTM）通常以服务形式发布。它允许用户设计特定任务的提示（prompt），通过某些黑盒 API 查询 PTM。在这种我们称之为语言模型即服务（LMaaS）的场景中，PTM 的梯度通常不可用。我们能否仅通过访问模型推理 API 来优化任务提示？本文提出黑盒调优框架，通过无导数优化来优化置于输入文本前的连续提示。传统无导数优化难以在原高维提示空间中进行，鉴于大型 PTM 的低本征维数，我们改在随机生成的子空间中执行优化。实验结果表明，在少量标注样本上采用 RoBERTa 的黑盒调优不仅显著优于人工提示与 GPT-3 的上下文学习，而且超越了基于梯度的对应方法，即提示调优与全模型调优。
引用
@article{arxiv.2201.03514,
title = {Black-Box Tuning for Language-Model-as-a-Service},
author = {Tianxiang Sun and Yunfan Shao and Hong Qian and Xuanjing Huang and Xipeng Qiu},
journal= {arXiv preprint arXiv:2201.03514},
year = {2022}
}
备注
Accepted by ICML 2022. Camera-ready version