中文

Pearl:以生成校准检索器个性化大语言模型写作助手

计算与语言 2024-11-06 v2 人机交互 信息检索

摘要

强大的大语言模型促进了写作助手的发展,有望显著提升写作与沟通的质量与效率。然而,LLM 输出在作者沟通风格、专业知识与价值观方面缺乏个性化,是有效辅助的一大障碍。本文通过提出 Pearl 应对该挑战——一个以经训练用于个性化生成校准的检索器所个性化的 LLM 写作助手。生成校准确保我们的检索器选取用户历史撰写文档来增强 LLM 提示,使其可能有助于 LLM 生成更好地契合用户偏好。我们提出训练此类检索器的两个关键创新:(1)一种训练数据选择方法,可识别可能受益于个性化的用户请求及提供该收益的文档;(2)一种尺度校准 KL 散度目标,确保我们的检索器分数与使用该文档进行个性化生成的下游生成质量保持成比例。在一系列整体评估中,我们证明了 Pearl 在多个社交媒体数据集上生成长文本的有效性。最后,我们展示了生成校准检索器如何兼作性能预测器——检测低质量检索,并通过 LLM 修订改善可能表现不佳的输出。

关键词

引用

@article{arxiv.2311.09180,
  title  = {Pearl: Personalizing Large Language Model Writing Assistants with Generation-Calibrated Retrievers},
  author = {Sheshera Mysore and Zhuoran Lu and Mengting Wan and Longqi Yang and Bahareh Sarrafzadeh and Steve Menezes and Tina Baghaee and Emmanuel Barajas Gonzalez and Jennifer Neville and Tara Safavi},
  journal= {arXiv preprint arXiv:2311.09180},
  year   = {2024}
}

备注

Accepted to Workshop on Customizable NLP at EMNLP 2024