中文

RoleLLM:大语言模型角色扮演能力的基准评测、激发与增强

计算与语言 2024-06-19 v3 人工智能

摘要

大语言模型(LLMs)的出现为角色扮演等复杂任务铺平了道路,其通过使模型模仿各类角色来增强用户交互。然而,最先进 LLM 的闭源特性及其通用训练限制了角色扮演的优化。本文中,我们引入 RoleLLM,一个用于基准评测、激发并增强 LLM 中角色扮演能力的框架。RoleLLM 包含四个阶段:(1) 100 个角色的角色档案构建;(2) 用于角色特定知识抽取的基于上下文的指令生成(Context-Instruct);(3) 使用 GPT 的角色提示(RoleGPT)以模仿说话风格;(4) 角色条件指令微调(RoCIT)用于开源模型微调及角色定制。通过 Context-Instruct 与 RoleGPT,我们创建了 RoleBench,首个系统且细粒度的角色级角色扮演基准数据集,含 168,093 个样本。此外,在 RoleBench 上的 RoCIT 产生了 RoleLLaMA(英文)与 RoleGLM(中文),显著增强了角色扮演能力,甚至取得与 RoleGPT(使用 GPT-4)相当的结果。

关键词

引用

@article{arxiv.2310.00746,
  title  = {RoleLLM: Benchmarking, Eliciting, and Enhancing Role-Playing Abilities of Large Language Models},
  author = {Zekun Moore Wang and Zhongyuan Peng and Haoran Que and Jiaheng Liu and Wangchunshu Zhou and Yuhan Wu and Hongcheng Guo and Ruitong Gan and Zehao Ni and Jian Yang and Man Zhang and Zhaoxiang Zhang and Wanli Ouyang and Ke Xu and Stephen W. Huang and Jie Fu and Junran Peng},
  journal= {arXiv preprint arXiv:2310.00746},
  year   = {2024}
}

备注

30 pages, repo at https://github.com/InteractiveNLP-Team/RoleLLM-public