基于循环神经网络与非负矩阵分解的话题感知聊天机器人
计算与语言
2019-12-05 v2 机器学习
最优化与控制
机器学习
摘要
我们提出了一种新颖的话题感知聊天机器人模型，将传统的循环神经网络（RNN）编码器-解码器模型与基于非负矩阵分解（NMF）的话题注意力层相结合。通过 NMF 从辅助文本语料库学习话题向量后，解码器被训练为更可能从最相关的主题向量中采样回复词。我们架构的主要优势之一是用户可轻松切换 NMF 学习的话题向量，使聊天机器人获得所需的话题感知能力。我们通过在单一对话数据集上训练并用从不同辅助数据集学习的话题矩阵增强来演示模型。我们表明，我们的话题感知聊天机器人不仅优于无话题对应模型，而且每个话题感知模型依据问题话题在定性与上下文上给出最相关的回答。
引用
@article{arxiv.1912.00315,
title = {Topic-aware chatbot using Recurrent Neural Networks and Nonnegative Matrix Factorization},
author = {Yuchen Guo and Nicholas Hanoian and Zhexiao Lin and Nicholas Liskij and Hanbaek Lyu and Deanna Needell and Jiahao Qu and Henry Sojico and Yuliang Wang and Zhe Xiong and Zhenhong Zou},
journal= {arXiv preprint arXiv:1912.00315},
year = {2019}
}
备注
14 pages, 1 figure, 2 tables