针对黑盒离散提示学习的查询高效联邦学习
机器学习
2025-09-25 v2
摘要
黑盒离散提示学习是一种不访问模型参数或梯度即可优化离散提示的提示调优方法，使其在云端大型语言模型 (LLM) 上的提示调优变得可行。将联邦学习应用于 BDPL 可能会通过利用来自不同来源的数据来进一步提高提示调优性能。然而，所有关于联邦黑盒提示调优的以往研究都忽视了与云端 LLM 服务相关的大量查询成本。为填补这一差距，我们对查询效率在联邦黑盒提示调优语境下的理论分析。我们的发现表明，将 FedAvg 降级为每轮仅激活一个客户端，即我们称之为 \textit{FedOne}，在联邦黑盒提示学习中实现最佳查询效率。基于这一洞察，我们提出了 FedOne 框架，这是一种旨在最大化与云端 LLM 交互时查询效率的联邦黑盒离散提示学习方法。我们对我们框架的各种方面进行了数值实验，显示出显著的查询效率改进，这与我们的理论结果一致。
引用
@article{arxiv.2506.14929,
title = {FedOne: Query-Efficient Federated Learning for Black-box Discrete Prompt Learning},
author = {Ganyu Wang and Jinjie Fang and Maxwell J. Yin and Bin Gu and Xi Chen and Boyu Wang and Yi Chang and Charles Ling},
journal= {arXiv preprint arXiv:2506.14929},
year = {2025}
}
备注
Published in Proceedings of the 42nd International Conference on Machine Learning