重新思考 Skip-thought:一种基于邻域的方法
计算与语言
2017-06-13 v1 人工智能
神经与进化计算
摘要
我们研究了将邻域信息作为弱监督的 skip-thought 模型。更具体地说,我们提出了一种 skip-thought 邻居模型,将相邻句子视为一个邻域。我们在包含连续句子的大型语料库上训练我们的 skip-thought 邻居模型,然后在 7 个任务上评估训练好的模型,这些任务包括语义相关性、复述检测和分类基准。我们进行了定量比较和定性调查。我们实证表明,我们的 skip-thought 邻居模型在评估任务上的表现与 skip-thought 模型一样好。此外,我们发现,在我们的模型中引入自编码器路径并不能帮助模型表现得更好,反而会损害 skip-thought 模型的性能。
引用
@article{arxiv.1706.03146,
title = {Rethinking Skip-thought: A Neighborhood based Approach},
author = {Shuai Tang and Hailin Jin and Chen Fang and Zhaowen Wang and Virginia R. de Sa},
journal= {arXiv preprint arXiv:1706.03146},
year = {2017}
}