具有GPU加速的线性复杂度松弛词移距离
信息检索
2017-11-21 v1 分布式、并行与集群计算
数据结构与算法
摘要
基于非结构化文本的数据量与日俱增。对这类大数据进行查询、聚类和分类需要在大量文档集合上进行相似性计算。尽管已有低复杂度的相似性度量可用，但人们的注意力正转向能够获得更高准确率的更复杂方法。特别是，Kusner等人提出的词移距离（Word Mover's Distance, WMD）方法是一种有前景的新途径，但其时间复杂度随文档中唯一词数量呈三次增长。同样由Kusner等人提出的松弛词移距离（Relaxed Word Mover's Distance, RWMD）方法将时间复杂度从三次降为二次，且与WMD相比准确率损失有限。我们的工作贡献了一种RWMD的低复杂度实现，在处理大型文档集合时将平均时间复杂度降为线性。我们这种线性复杂度的RWMD实现（以下称LC-RWMD）能很好地映射到GPU上，并可高效地分布到GPU集群中。我们在真实数据集上的实验表明：1）相对于我们基于GPU分布的二次RWMD实现，性能提升两个数量级；2）相对于我们使用基于GPU的RWMD进行剪枝的分布式的WMD实现，性能提升三到四个数量级。
引用
@article{arxiv.1711.07227,
title = {Linear-Complexity Relaxed Word Mover's Distance with GPU Acceleration},
author = {Kubilay Atasu and Thomas Parnell and Celestine Dünner and Manolis Sifalakis and Haralampos Pozidis and Vasileios Vasileiadis and Michail Vlachos and Cesar Berrospi and Abdel Labbi},
journal= {arXiv preprint arXiv:1711.07227},
year = {2017}
}
备注
To appear in the 2017 IEEE International Conference on Big Data (Big Data 2017) http://cci.drexel.edu/bigdata/bigdata2017/ December 11-14, 2017, Boston, MA, USA