面向事件时间关系抽取的多尺度知识蒸馏
计算与语言
2024-07-29 v3 人工智能
机器学习
摘要
事件时间关系抽取（ETRE）至关重要但充满挑战。在一段语篇内，事件对处于不同距离或所谓的邻近带中。关于处于更远端（即“长”）或较近端（即“短”）邻近带的事件对的时间顺序，其编码方式不同。SOTA 模型往往擅长处理处于短邻近带或长邻近带的事件，但无法兼顾二者。然而，真实世界的自然文本包含各类时间事件对。本文提出 MulCo：通过对比学习蒸馏多尺度知识，一种跨多个事件对邻近带共享知识以提升所有类型时间数据集性能的知识协同蒸馏方法。实验结果表明，MulCo 成功整合了关涉短邻近带与长邻近带时间推理的语言线索，并在多个 ETRE 基准数据集上取得新的 SOTA 结果。
引用
@article{arxiv.2209.00568,
title = {Distilling Multi-Scale Knowledge for Event Temporal Relation Extraction},
author = {Hao-Ren Yao and Luke Breitfeller and Aakanksha Naik and Chunxiao Zhou and Carolyn Rose},
journal= {arXiv preprint arXiv:2209.00568},
year = {2024}
}
备注
Accepted to CIKM 2024 Full Research Track, camera ready version