一种用于度量词突发性的统计显著性检验方法及其在领域专用术语抽取中的应用
信息检索
2024-01-03 v2
摘要
语料库中的一个词若其出现集中于许多文档中的少数几篇，则被称为“突发”（或过度离散）。在本文中，我们提出残差逆集合频率（RICF），一种受统计显著性检验启发的启发式方法，用于量化词的突发性。据我们所知，卡方检验是现有词突发性度量中唯一的统计显著性检验。卡方检验的词突发性得分由集合频率统计量（即指定词在语料库所有词中所占比例）计算。然而，某些其他广泛使用的词突发性度量利用了词的文档频率（即语料库中包含该特定词的文档比例）。RICF通过使其词突发性得分系统地结合集合频率和文档频率两种统计量，解决了卡方检验的这一缺陷。我们使用GENIA Term语料库基准（包含2,000篇带标注的生物医学文章摘要）在领域专用技术术语抽取任务上评估RICF度量。RICF在k处精度（precision at k）方面总体优于卡方检验，百分比提升分别为：P@10为0.00%、P@50为6.38%、P@100为6.38%、P@500为2.27%、P@1000为2.61%、P@5000为1.90%。此外，RICF的性能与其他成熟的词突发性度量具有竞争力。基于这些发现，我们将本文的贡献视为未来在文本分析中利用统计显著性检验的有益起点。
引用
@article{arxiv.2310.15790,
title = {A statistical significance testing approach for measuring term burstiness with applications to domain-specific terminology extraction},
author = {Samuel Sarria Hurtado and Todd Mullen and Taku Onodera and Paul Sheridan},
journal= {arXiv preprint arXiv:2310.15790},
year = {2024}
}
备注
19 pages, 1 figure, 6 tables