面向多语言回复建议的条件生成匹配模型
计算与语言
2021-09-16 v1
摘要
我们研究了同时服务多种语言的自动化回复建议（RS）模型问题。多语言模型常受模型容量与跨语言严重的数据分布偏斜所挑战。先前工作主要聚焦于单语模型，我们提出条件生成匹配模型（CGM），在变分自编码器框架内优化以应对多语言 RS 带来的挑战。CGM 通过富有表达力的消息条件先验、增强多语言数据表示的混合密度、用于语言区分的潜在对齐，以及用于训练多语言 RS 的有效变分优化技术来实现这一点。这些增强带来的性能在相关性（ROUGE 分数）上平均超过竞争基线 10% 以上，低资源语言上超过 16%。CGM 在多样性（80%）上也显示出显著提升，体现了其在多语言数据表示上的表达能力。
引用
@article{arxiv.2109.07046,
title = {A Conditional Generative Matching Model for Multi-lingual Reply Suggestion},
author = {Budhaditya Deb and Guoqing Zheng and Milad Shokouhi and Ahmed Hassan Awadallah},
journal= {arXiv preprint arXiv:2109.07046},
year = {2021}
}