中文

重新思考 Skip-thought:一种基于邻域的方法

计算与语言 2017-06-13 v1 人工智能 神经与进化计算

摘要

我们研究了将邻域信息作为弱监督的 skip-thought 模型。更具体地说,我们提出了一种 skip-thought 邻居模型,将相邻句子视为一个邻域。我们在包含连续句子的大型语料库上训练我们的 skip-thought 邻居模型,然后在 7 个任务上评估训练好的模型,这些任务包括语义相关性、复述检测和分类基准。我们进行了定量比较和定性调查。我们实证表明,我们的 skip-thought 邻居模型在评估任务上的表现与 skip-thought 模型一样好。此外,我们发现,在我们的模型中引入自编码器路径并不能帮助模型表现得更好,反而会损害 skip-thought 模型的性能。

关键词

引用

@article{arxiv.1706.03146,
  title  = {Rethinking Skip-thought: A Neighborhood based Approach},
  author = {Shuai Tang and Hailin Jin and Chen Fang and Zhaowen Wang and Virginia R. de Sa},
  journal= {arXiv preprint arXiv:1706.03146},
  year   = {2017}
}