V-VAE:面向类人对话细粒度控制的变分自编码框架
计算与语言
2025-12-12 v2 人工智能
摘要
随着基于大语言模型 (LLM) 的聊天机器人的持续普及,对于生成不仅在语言上流畅,而且在对话中始终与特定角色特征保持一致的回复的需求日益增长。然而,现有的角色扮演和基于角色的对话方法严重依赖静态角色描述、粗粒度信号空间和低质量的合成数据,无法捕捉类人对话中的动态细粒度细节。类人对话需要对微妙的潜在特征进行建模,如情感基调、情境感知和不断演变的性格,这些特征难以预先定义,且无法轻易从合成或基于蒸馏的数据中学习。为解决这些局限性,我们提出了一种言语变分自编码 (V-VAE) 框架,包含一个变分自编码模块和细粒度控制空间,该空间基于跨说话风格、交互模式和个人属性的细粒度、可解释潜在变量,动态调整对话行为。我们还构建了高质量数据集 HumanChatData 和基准 HumanChatBench,以解决类人领域高质量数据稀缺的问题。实验表明,基于 V-VAE 的 LLMs 在 HumanChatBench 和 DialogBench 上始终优于标准基线,进一步证明了 V-VAE 和 HumanChatData 的有效性。
引用
@article{arxiv.2506.01524,
title = {V-VAE: A Variational Auto Encoding Framework Towards Fine-Grained Control over Human-Like Chat},
author = {Qi Lin and Weikai Xu and Lisi Chen and Bin Dai},
journal= {arXiv preprint arXiv:2506.01524},
year = {2025}
}