DeepProbe：基于循环神经网络的信息导向序列理解与聊天机器人设计
机器学习
2018-03-02 v2 机器学习
摘要
信息抽取与用户意图识别是现代查询理解与推荐系统的核心课题。本文提出 DeepProbe，一种通用的信息导向交互框架，其构建于基于注意力的序列到序列（seq2seq）循环神经网络之上。DeepProbe 可利用 seq2seq 模型所赋予的生成能力与似然估计，进行改写、评估乃至主动提问。DeepProbe 基于以用户输入为条件导出的不确定性（熵）度量做出决策，并可能进行多轮交互。我们围绕 DeepProbe 构建了三个应用，即用于广告推荐的改写器、相关性打分器与聊天机器人，前两者作为第三者的前期构建模块。我们首先使用 DeepProbe 中的 seq2seq 模型将用户查询改写为标准查询形式之一，并提交给普通推荐系统。其次，我们评估 DeepProbe 基于 seq2seq 模型的相关性打分。最后，我们构建了一个能够进行主动用户交互的聊天机器人原型，其可提出最大化信息增益的问题，从而实现更高效的用户意图识别过程。我们通过 1) 以 BLEU 和 AUC 与基线对比，以及 2) 人工评判，来评估前两个应用。两者均相较当前 state-of-the-art 系统有显著提升，证明了它们作为独立工具的实用价值，同时也为正在进行的聊天机器人应用奠定了良好基础。
引用
@article{arxiv.1707.05470,
title = {DeepProbe: Information Directed Sequence Understanding and Chatbot Design via Recurrent Neural Networks},
author = {Zi Yin and Keng-hao Chang and Ruofei Zhang},
journal= {arXiv preprint arXiv:1707.05470},
year = {2018}
}
备注
Proceedings of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, 2017