为何及如何对不同强度的短语对齐给予不同注意力

本研究比较性地考察了两个典型的句子对分类任务：文本蕴含(textual entailment, TE)与答案选择(answer selection, AS)，观察到不同强度的短语对齐在这些任务中的贡献不同。我们着手解决在这些任务中识别灵活粒度的短语对齐以及池化不同强度对齐的问题。灵活粒度的例子包括两个单词之间、单个单词与短语之间以及短短语与长短语之间的对齐。我们粗略地用强度表示匹配程度，其范围从完全一致、表面形式共现、改写和其他语义相关，到如许多括号文本中那样的不相关词。先前的工作(i)在短语生成与表示方面存在局限，或(ii)通过手工特征在词和短语层面进行对齐，或(iii)利用单一的注意力机制处理对齐强度而未考虑特定任务的特征，这限制了系统跨任务的有效性。我们提出一种基于门控循环单元(Gated Recurrent Unit)的架构，支持(i)任意粒度短语的表示学习，以及(ii)通过注意力池化(attention pooling)对两个句子间短语对齐进行任务特定的聚焦。在TE和AS上的实验结果符合我们的观察，并且是最先进的(state-of-the-art)。