通过积极查询提升角色扮演系统表现：评估与改进
计算与语言
2024-06-18 v2
摘要
大型语言模型（LLM）的出现推动了对话生成进入了新的领域，尤其是在角色扮演系统（RPSs）领域。尽管通过普通角色相关训练对话增强，现有的LLM-based RPS仍在处理边界场景中复杂和棘手查询时难以与角色对齐。在本文中，我们设计了模块化托管陷阱设置交互系统（MORTISE），用于基准测试和改进角色扮演LLM的性能。MORTISE通过多个LLM-based模块的协合 effort，可以通过积极查询产生高度角色相关的查询，并通过一致的响应生成器制定相应响应，以创建对抗性训练数据集。我们选取190个中英文角色以构建积极查询，对现有角色扮演LLM进行基准测试。通过全面评估，我们发现现有模型在角色对齐能力上存在普遍缺陷。我们进一步选取180个角色收集对抗性训练数据集（命名为RoleAD），并保留另外10个角色用于测试。在RoleAD改进的模型上的实验表明，对抗性数据集改善了这一缺陷，改进效果在普通场景中显示出一定的普遍性。
引用
@article{arxiv.2402.10618,
title = {Enhancing Role-playing Systems through Aggressive Queries: Evaluation and Improvement},
author = {Yihong Tang and Jiao Ou and Che Liu and Fuzheng Zhang and Di Zhang and Kun Gai},
journal= {arXiv preprint arXiv:2402.10618},
year = {2024}
}
备注
After our paper was submitted to the conference for review, it was found that there were major problems, so it was revised by more than 80%, which can basically be regarded as new work