中文

用于社区问答的注意力循环张量模型

计算与语言 2018-01-23 v1

摘要

社区问答问题的一个主要挑战是句子表示之间的词汇与语义鸿沟。最小化此鸿沟的一些方案包括向深度模型引入额外参数或扩充外部手工特征。本文中,我们提出一种新颖的注意力循环张量网络来解决社区问答中的词汇与语义鸿沟。我们引入了词级与短语级注意力策略,利用可训练参数将输入序列映射到输出。此外,我们使用张量参数在向量空间中引入问题、答案与外部特征之间的三向交互。我们引入了带 L2 正则化的简化张量矩阵,从而在训练中实现平滑优化。所提模型在答案句选择任务(TrecQA 和 WikiQA 数据集)上取得了最先进的性能,同时在最佳答案选择(Yahoo! L4)与答案触发任务(WikiQA)上优于当前最优方法。

关键词

引用

@article{arxiv.1801.06792,
  title  = {Attentive Recurrent Tensor Model for Community Question Answering},
  author = {Gaurav Bhatt and Shivam Sharma and Balasubramanian Raman},
  journal= {arXiv preprint arXiv:1801.06792},
  year   = {2018}
}