中文

WIKITIDE:一个基于维基百科的时间戳定义对数据集

计算与语言 2023-08-21 v2

摘要

在当前由语言模型主导的 NLP 语境中,一个根本性挑战源于现有架构在“学习”新信息方面的不灵活性。尽管有如持续学习或参数高效微调等以模型为中心的解决方案,但如何可靠地识别语言或世界中的变化这一问题依然存在。在本文中,我们提出 WikiTiDe,一个从维基百科提取的时间戳定义对派生而来的数据集。我们认为此类资源有助于加速历时 NLP,具体而言,用于训练能够扫描知识资源中以概念、事件或命名实体为核心更新的模型。我们提出的端到端方法完全自动,并利用自举算法逐步创建高质量数据集。我们的结果表明,对 WikiTiDe 的种子版本进行自举可得到更好的微调模型。我们还在若干下游任务中利用微调模型,相对于有竞争力的基线展现出有前景的结果。

关键词

引用

@article{arxiv.2308.03582,
  title  = {WIKITIDE: A Wikipedia-Based Timestamped Definition Pairs Dataset},
  author = {Hsuvas Borkakoty and Luis Espinosa-Anke},
  journal= {arXiv preprint arXiv:2308.03582},
  year   = {2023}
}

备注

Accepted by RANLP 2023 main conference