协同注意力分层网络：为阅读理解生成连贯的长干扰项

在阅读理解中，生成句子级干扰项是一项重要任务，需要对文章和问题有深入理解。传统的以实体为中心的方法只能生成词级或短语级干扰项。尽管近期提出的基于神经网络的方法如序列到序列（Seq2Seq）模型在生成创造性文本方面展现出巨大潜力，但先前用于干扰项生成的神经方法忽略了两个重要方面。首先，它们未对文章与问题之间的交互建模，使得生成的干扰项往往过于宽泛或与问题上下文不相关。其次，它们未强调干扰项与文章之间的关系，使得生成的干扰项在语义上与文章不相关，从而无法构成一组有意义的选项。为解决第一个问题，我们提出一种协同注意力增强的分层架构，以更好地捕捉文章与问题之间的交互，从而引导解码器生成更连贯的干扰项。为缓解第二个问题，我们添加了一个额外的语义相似度损失，以促使生成的干扰项与文章更相关。实验结果表明，我们的模型在自动评价指标上优于若干强基线，取得了最先进的性能。进一步的人工评估表明，与基线生成的干扰项相比，我们生成的干扰项更连贯且更具教育性。