MORPHEUS：通过探索与利用潜在空间对 personalize dialogue history 中的角色进行建模
计算与语言
2024-07-03 v1
摘要
personalized dialogue generation(PDG)旨在根据角色或人格创建连贯的响应。传统 PDG 依赖外部角色数据，这些数据可能稀缺且引发隐私问题。方法通过从对话历史中提取角色信息来解决这些问题，但往往难以在连续空间中通用地建模角色。为克服这些限制，我们引入一种新框架\textbf{MO}\textbf{R}\textbf{P} \textbf{H} \textbf{E} \textbf{U} \textbf{S}，通过三阶段训练过程\textbf{MO}dels \textbf{R}oles from \textbf{P}ersonalized \textbf{H}istory by \textbf{E}xploring and \textbf{U}tilizing \textbf{L}atent \textbf{S}pace。具体而言，我们创建了一个人格码本来紧凑地表示潜在空间中的角色，该码本用于构建角色信息的后验分布。此方法使模型能够在角色之间普遍化，允许即使对于未见过的角色也能生成个性化对话。实验在中英文数据集上表明，MORPHEUS 改进了角色信息的提取，并在无外部角色数据的情况下提高了响应生成。此外，MORPHEUS 可被视为大型语言模型的高效微调方法。
引用
@article{arxiv.2407.02345,
title = {MORPHEUS: Modeling Role from Personalized Dialogue History by Exploring and Utilizing Latent Space},
author = {Yihong Tang and Bo Wang and Dongming Zhao and Xiaojia Jin and Jijun Zhang and Ruifang He and Yuexian Hou},
journal= {arXiv preprint arXiv:2407.02345},
year = {2024}
}