原油相关事件的抽取与处理:一种迁移学习方法
计算与语言
2022-05-03 v1 信息检索
摘要
通过传统监督学习范式进行事件抽取的挑战之一是需要大量标注数据集以实现令人满意的模型性能。当涉及金融与经济领域的事件抽取时,这一挑战更为严峻,因为该领域资源相当匮乏。本文提出了一个完整的框架,用于抽取和处理 CrudeOilNews 语料库中的原油相关事件,通过利用迁移学习的有效性来解决标注稀缺与类别不平衡问题。除事件抽取外,我们特别强调事件属性(极性、模态与强度)分类,以确定每个事件的事实确定性。我们首先通过监督学习构建基线模型,然后利用迁移学习方法来提升事件抽取模型性能,尽管标注数据有限且类别严重不平衡。这是通过迁移学习框架内的领域自适应预训练、多任务学习和顺序迁移学习等方法实现的。基于实验结果,与通过标准监督学习训练的基线模型相比,我们能够在 F1 和 MCC1 分数上改进所有事件抽取子任务模型。从原油新闻中准确且全面地抽取事件对理解事件链和学习事件-事件关系等下游任务非常有用,这些可用于商品价格预测、摘要生成等其他下游任务,以支持广泛的业务决策。
引用
@article{arxiv.2205.00387,
title = {Crude Oil-related Events Extraction and Processing: A Transfer Learning Approach},
author = {Meisin Lee and Lay-Ki Soon and Eu-Gene Siew},
journal= {arXiv preprint arXiv:2205.00387},
year = {2022}
}