中文

ReadCtrl:通过可读性控制指令学习实现个性化文本生成

计算与语言 2024-06-14 v1 人工智能

摘要

根据用户的可读性进行内容生成是个性化的重要应用。在大语言模型(LLM)时代,基于LLM的可读性控制文本生成变得越来越重要。本文介绍了一种名为“可读性控制指令学习(ReadCtrl)”的新方法,旨在对LLM进行指令微调,以适应不同用户的可读性水平。与传统方法主要关注分类可读性调整(通常分为高、中、低或专家和外行水平,且效果有限)不同,ReadCtrl引入了一个动态框架,使LLM能够生成各种(近乎连续水平)复杂度的内容,从而增强了它们在不同应用中的多功能性。我们的结果表明,ReadCtrl-Mistral-7B模型显著优于GPT-4和Claude-3等强基线模型,在人工评估中相对于GPT-4的胜率为52.1%:35.7%。此外,Read-Ctrl在自动评估中也显示出显著改进,体现在更好的可读性指标(例如FOG、FKGL)和生成质量指标(例如BLEU、SARI、SummaC-Factuality、UniEval-Consistency和Coherence)上。这些结果强调了Read-Ctrl在生成高质量、上下文恰当且与目标可读性水平高度一致的输出方面的有效性和稳健性,标志着使用LLM进行个性化内容生成的重要进步。

关键词

引用

@article{arxiv.2406.09205,
  title  = {ReadCtrl: Personalizing text generation with readability-controlled instruction learning},
  author = {Hieu Tran and Zonghai Yao and Lingxi Li and Hong Yu},
  journal= {arXiv preprint arXiv:2406.09205},
  year   = {2024}
}

备注

9 pages