可靠的免梯度与免似然提示调优
机器学习
2023-05-02 v1 计算与语言
摘要
由于隐私或商业限制，大型预训练语言模型（PLMs）常作为黑盒 API 提供。对此类模型进行下游任务微调颇具挑战，因为既无法访问模型内部表示，也无法通过模型传播梯度。本文通过开发仅以 API 访问来适配 PLMs 的技术应对这些挑战。基于近期软提示调优（soft prompt tuning）的工作，我们开发了无需梯度计算即可调优软提示的方法。进一步，我们开发了扩展方法，除不需梯度外，也无需访问 PLM 除输入嵌入外的任何内部表示。此外，我们的方法学习提示上的分布而非单一提示，从而可量化预测不确定性。我们的工作是首个在仅具 PLM API 访问权限时考虑提示不确定性的研究。最后，通过大量实验，我们仔细验证了所提方法，发现其与具有 PLM 完全访问权限的基于梯度的方法相比具竞争力（且有时更优）。
引用
@article{arxiv.2305.00593,
title = {Reliable Gradient-free and Likelihood-free Prompt Tuning},
author = {Maohao Shen and Soumya Ghosh and Prasanna Sattigeri and Subhro Das and Yuheng Bu and Gregory Wornell},
journal= {arXiv preprint arXiv:2305.00593},
year = {2023}
}
备注
EACL 2023 (Findings)