中文

利用神经老虎机在线个性化白盒大语言模型生成

计算与语言 2024-04-26 v1 人工智能 机器学习

摘要

大语言模型个性化内容生成的出现提出了一个新挑战:如何高效地调整文本以满足个人偏好,而无需为每个用户创建独特模型这一不可持续的需求。本研究引入了一种创新的在线方法,该方法采用神经老虎机算法,根据用户反馈动态优化软指令嵌入,从而增强白盒大语言模型开放文本生成的个性化。通过在各项任务上的严格实验,我们展示了相对于基线策略的显著性能提升。特别是NeuralTS,在个性化新闻标题生成方面取得了高达62.9%的最佳ROUGE分数提升,以及相对于基线高达2.76%的LLM智能体评估提升。

关键词

引用

@article{arxiv.2404.16115,
  title  = {Online Personalizing White-box LLMs Generation with Neural Bandits},
  author = {Zekai Chen and Weeden Daniel and Po-yu Chen and Francois Buet-Golfouse},
  journal= {arXiv preprint arXiv:2404.16115},
  year   = {2024}
}

备注

7 pages