中文

进阶条件变分自编码器(A-CVAE):通过解耦潜特征表示解读开放域对话生成

计算与语言 2022-07-27 v1 人工智能

摘要

当前基于端到端深度学习的开放域对话系统仍是黑盒模型,易于用数据驱动模型生成不相关的内容。具体而言,由于缺乏先验知识引导训练,潜变量在潜空间中与不同语义高度纠缠。为解决此问题,本文提出通过一种涉及介观尺度特征解耦的认知方法,将先验知识引入生成模型。特别地,该模型整合了宏观层面的引导类别知识与微观层面的开放域对话数据用于训练,将先验知识注入潜空间,使模型能够在介观尺度上解耦潜变量。此外,我们提出了一种面向开放域对话的新指标,可客观评估潜空间分布的可解释性。最后,我们在不同数据集上验证了模型,并通过实验证明我们的模型能够生成比其它模型更高质量且更具可解释性的对话。

关键词

引用

@article{arxiv.2207.12696,
  title  = {Advanced Conditional Variational Autoencoders (A-CVAE): Towards interpreting open-domain conversation generation via disentangling latent feature representation},
  author = {Ye Wang and Jingbo Liao and Hong Yu and Guoyin Wang and Xiaoxia Zhang and Li Liu},
  journal= {arXiv preprint arXiv:2207.12696},
  year   = {2022}
}