WIKITIDE:一个基于维基百科的时间戳定义对数据集
计算与语言
2023-08-21 v2
摘要
在当前由语言模型主导的 NLP 语境中,一个根本性挑战源于现有架构在“学习”新信息方面的不灵活性。尽管有如持续学习或参数高效微调等以模型为中心的解决方案,但如何可靠地识别语言或世界中的变化这一问题依然存在。在本文中,我们提出 WikiTiDe,一个从维基百科提取的时间戳定义对派生而来的数据集。我们认为此类资源有助于加速历时 NLP,具体而言,用于训练能够扫描知识资源中以概念、事件或命名实体为核心更新的模型。我们提出的端到端方法完全自动,并利用自举算法逐步创建高质量数据集。我们的结果表明,对 WikiTiDe 的种子版本进行自举可得到更好的微调模型。我们还在若干下游任务中利用微调模型,相对于有竞争力的基线展现出有前景的结果。
引用
@article{arxiv.2308.03582,
title = {WIKITIDE: A Wikipedia-Based Timestamped Definition Pairs Dataset},
author = {Hsuvas Borkakoty and Luis Espinosa-Anke},
journal= {arXiv preprint arXiv:2308.03582},
year = {2023}
}
备注
Accepted by RANLP 2023 main conference