让基于提示的黑盒调优多姿多彩：从三个正交视角提升模型泛化能力
计算与语言
2024-05-07 v2 人工智能
摘要
大语言模型（LLMs）在各种自然语言处理（NLP）任务上已展现出日益增长的能力。然而，为下游任务调优这些模型通常需要高昂代价，或因商业考量而不可行。近来，黑盒调优被提出以通过优化任务特定提示且无需访问梯度和隐藏表示来解决此问题。然而，现有多数工作尚未充分挖掘少样本学习场景下无梯度优化的潜力。本文中，我们介绍 BBT-RGB，一套用于提升黑盒优化效率与性能的直白且互补的技术。具体而言，我们的方法包含三个即插即用组件：（1）促进快速收敛并缓解过拟合的两阶段无导数优化策略；（2）少样本设定下及其新颖用法的自动 verbalizer 构造；（3）基于指令搜索与自动选定示范的更优提示初始化策略。在自然语言理解与推理上跨多任务的广泛实验证明了我们方法的有效性。我们的代码公开于 https://github.com/QiushiSun/BBT-RGB。
引用
@article{arxiv.2305.08088,
title = {Make Prompt-based Black-Box Tuning Colorful: Boosting Model Generalization from Three Orthogonal Perspectives},
author = {Qiushi Sun and Chengcheng Han and Nuo Chen and Renyu Zhu and Jingyang Gong and Xiang Li and Ming Gao},
journal= {arXiv preprint arXiv:2305.08088},
year = {2024}
}
备注
Accepted by LREC-COLING 2024