Orca：通过融合人格特质增强大语言模型的角色扮演能力
计算与语言
2024-11-18 v1 人工智能
摘要
大语言模型催化了个性化对话系统的发展，涌现出众多角色扮演对话代理。以往研究主要集中于通过设计角色档案增强模型遵循指令的能力，忽视了驱动人类对话的心理因素。本文提出Orca，一个通过融合人格特质进行自定义角色数据处理和LLM训练的框架。Orca包含四个阶段：（1）人格特质推断，利用LLM推断用户的大五人格特质报告和分数。（2）数据增强，模拟用户画像、背景故事和心理活动。（3）数据集构建，基于人格条件的指令提示（PCIP）激发LLM。（4）建模与训练，基于人格条件的指令微调（PTIT和PSIT），利用生成数据增强现有开源LLM。我们引入OrcaBench，首个跨多尺度评估LLM在社交平台生成内容质量的基准。实验表明，我们提出的模型在该基准上取得优异性能，展示了其在感知人格特质方面的卓越性和有效性，显著提升了角色扮演能力。代码已开源：https://github.com/Aipura/Orca。
引用
@article{arxiv.2411.10006,
title = {Orca: Enhancing Role-Playing Abilities of Large Language Models by Integrating Personality Traits},
author = {Yuxuan Huang},
journal= {arXiv preprint arXiv:2411.10006},
year = {2024}
}