中文

基于倒排索引的共现网络实时构建算法

信息检索 2023-08-21 v1 数据结构与算法

摘要

共现网络是自然语言处理和文本挖掘领域中发掘文本内部语义关系的重要方法。然而,传统遍历算法在构建共现网络时,处理大规模文本数据具有较高的时间复杂度和空间复杂度。本文提出一种基于倒排索引和广度优先搜索的优化算法,以提高共现网络构建效率并降低内存消耗。首先,分析传统遍历算法,指出其在构建共现网络时的性能问题。然后,给出优化算法的详细实现过程。随后,使用 CSL 大规模中文科学文献数据集进行实验验证,比较传统遍历算法与优化算法在运行时间和内存占用方面的性能。最后,通过非参数检验方法,证明优化算法性能显著优于传统遍历算法。本文的研究为共现网络的快速构建提供了有效方法,有助于信息组织领域的进一步发展。

关键词

引用

@article{arxiv.2308.08756,
  title  = {Real-Time Construction Algorithm of Co-Occurrence Network Based on Inverted Index},
  author = {Jiahao Cheng},
  journal= {arXiv preprint arXiv:2308.08756},
  year   = {2023}
}

备注

10 pages, 8 figures