利用上下文词与句子嵌入检测进行中事件
计算与语言
2021-02-09 v2 机器学习
摘要
本文引入进行中事件检测(OED)任务,这是一种特定的事件检测任务,其目标是仅检测进行中的事件提及,而非历史的、未来的、假设的或其他既非新鲜也非当前的事件形式。任何需要从非结构化文本中提取关于进行中事件的结构化信息的应用都可利用 OED 系统。本文的主要贡献如下:(1) 引入 OED 任务及为该任务手动标注的数据集;(2) 提出并实现了一种用于该任务的 RNN 模型,该模型使用 BERT 嵌入将上下文词与上下文句子嵌入定义为属性,据我们所知其此前从未被用于新闻中进行中事件检测;(3) 给出了广泛的实证评估,包括 (i) 不同架构与超参数的探索,(ii) 研究各属性影响的消融测试,以及 (iii) 与最先进模型复现版的比较。结果提供了关于上下文嵌入重要性的若干洞见,并表明所提方法在 OED 任务中有效,优于基线模型。
引用
@article{arxiv.2007.01379,
title = {Detecting Ongoing Events Using Contextual Word and Sentence Embeddings},
author = {Mariano Maisonnave and Fernando Delbianco and Fernando Tohmé and Ana Maguitman and Evangelos Milios},
journal= {arXiv preprint arXiv:2007.01379},
year = {2021}
}