利用神经老虎机在线个性化白盒大语言模型生成
计算与语言
2024-04-26 v1 人工智能
机器学习
摘要
大语言模型个性化内容生成的出现提出了一个新挑战:如何高效地调整文本以满足个人偏好,而无需为每个用户创建独特模型这一不可持续的需求。本研究引入了一种创新的在线方法,该方法采用神经老虎机算法,根据用户反馈动态优化软指令嵌入,从而增强白盒大语言模型开放文本生成的个性化。通过在各项任务上的严格实验,我们展示了相对于基线策略的显著性能提升。特别是NeuralTS,在个性化新闻标题生成方面取得了高达62.9%的最佳ROUGE分数提升,以及相对于基线高达2.76%的LLM智能体评估提升。
引用
@article{arxiv.2404.16115,
title = {Online Personalizing White-box LLMs Generation with Neural Bandits},
author = {Zekai Chen and Weeden Daniel and Po-yu Chen and Francois Buet-Golfouse},
journal= {arXiv preprint arXiv:2404.16115},
year = {2024}
}
备注
7 pages