用于社区问答的带注意力机制循环神经网络编码器
计算与语言
2016-03-24 v1 机器学习
神经与进化计算
摘要
我们将一个通用的循环神经网络 (RNN) 编码器框架应用于社区问答 (cQA) 任务。我们的方法不依赖于任何语言处理,并可应用于不同语言或领域。当我们用鼓励对整体序列进行推理的神经注意力机制扩展 RNN 编码器时,观察到了进一步的改进。为处理数据稀疏与标签不平衡等实际问题,我们应用了迁移学习和多任务学习等多种技术。我们在 SemEval-2016 cQA 任务上的实验表明,与基于信息检索的方法相比,MAP 分数提高了 10%,并且取得了与强手工特征方法相当的性能。
引用
@article{arxiv.1603.07044,
title = {Recurrent Neural Network Encoder with Attention for Community Question Answering},
author = {Wei-Ning Hsu and Yu Zhang and James Glass},
journal= {arXiv preprint arXiv:1603.07044},
year = {2016}
}