一种使用 Transformer 模型的条件生成式聊天机器人
计算与语言
2023-09-11 v2 计算机视觉与模式识别
摘要
聊天机器人是人机之间基于用户输入获取恰当回答的通信工具。在较新的方法中，自然语言处理与序列模型相结合用于构建生成式聊天机器人。这些模型的主要挑战在于其序列性质，导致结果准确性较低。为应对该挑战，本文提出一种新架构，使用条件 Wasserstein 生成对抗网络与 transformer 模型进行聊天机器人的回答生成。所提模型的生成器由完整的 transformer 模型组成以生成回答，而判别器仅包含 transformer 模型的编码器部分后接一个分类器。据我们所知，这是首次提出在生成器与判别器中均嵌入 transformer 的生成式聊天机器人。依托 transformer 模型的并行计算，所提模型在 Cornell Movie-Dialog 语料库与 Chit-Chat 数据集上的结果，借助不同评价指标证实了相较于 SOTA 替代方法的优越性。
引用
@article{arxiv.2306.02074,
title = {A Conditional Generative Chatbot using Transformer Model},
author = {Nura Esfandiari and Kourosh Kiani and Razieh Rastgoo},
journal= {arXiv preprint arXiv:2306.02074},
year = {2023}
}