SHINE:用于零样本跨语言信息抽取的句法增强分层交互编码器
计算与语言
2023-05-23 v1
摘要
零样本跨语言信息抽取(IE)旨在仅给定某些富资源语言的标注情况下,为某些低资源目标语言构建IE模型。近期基于语言普适特征的研究已展现其有效性并吸引越来越多关注。然而,先前工作既未探索语言普适特征与上下文表征之间建立交互的潜力,也未引入能有效建模组成跨度属性及多跨度间关系的特征。本研究提出一种句法增强的分层交互编码器(SHINE)以迁移跨语言IE知识。所提编码器能够交互式捕获特征与上下文信息间的互补信息,从而为各类IE任务推导语言无关表征。具体而言,设计了一个多级交互网络以分层交互互补信息从而增强领域适应性。此外,除被广泛研究的词性与依存关系句法特征外,引入了一种新的成分结构句法特征来建模对IE至关重要的组成跨度信息。在三种IE任务和四个基准上跨七种语言的实验验证了所提方法的有效性与泛化能力。
引用
@article{arxiv.2305.12389,
title = {SHINE: Syntax-augmented Hierarchical Interactive Encoder for Zero-shot Cross-lingual Information Extraction},
author = {Jun-Yu Ma and Jia-Chen Gu and Zhen-Hua Ling and Quan Liu and Cong Liu and Guoping Hu},
journal= {arXiv preprint arXiv:2305.12389},
year = {2023}
}
备注
15pages