基于对比损失约束批量注意力的半监督新事件类型归纳与描述
计算与语言
2022-02-15 v1 人工智能
摘要
大多数事件抽取方法传统上依赖于一组标注好的事件类型。然而，创建事件本体和标注监督训练数据既昂贵又耗时。先前的工作提出了半监督方法，利用已见（已标注）类型来学习如何自动发现新事件类型。最先进的方法，无论是半监督还是完全无监督，都对上下文中特定词元使用某种重构损失。相比之下，我们提出了一种新颖的半监督新事件类型归纳方法，使用掩码对比损失，通过对数据小批量施加注意力机制来学习事件提及之间的相似性。我们进一步通过逼近数据中的底层流形来解耦发现的簇，从而将归一化互信息和Fowlkes-Mallows分数绝对提升超过20%。基于这些聚类结果，我们将方法扩展到两个新任务：预测所发现簇的类型名称并将其链接到FrameNet框架。
引用
@article{arxiv.2202.05943,
title = {Semi-supervised New Event Type Induction and Description via Contrastive Loss-Enforced Batch Attention},
author = {Carl Edwards and Heng Ji},
journal= {arXiv preprint arXiv:2202.05943},
year = {2022}
}