面向通用低资源信息抽取的梯度模仿强化学习方法
计算与语言
2022-11-15 v2 人工智能
摘要
信息抽取（IE）旨在从异构源中抽取结构化信息。从自然语言文本中进行信息抽取包括命名实体识别（NER）、关系抽取（RE）和事件抽取（EE）等子任务。大多数 IE 系统需要全面理解句子结构、隐含语义和领域知识才能表现良好；因此，IE 任务始终需要充足的外部资源和标注。然而，获取更多人工标注耗时费力。低资源信息抽取（LRIE）致力于利用无监督数据，减少所需资源和人工标注。在实践中，现有系统要么利用自训练方案生成伪标签而导致渐进漂移问题，要么采用一致性正则化方法而不可避免地存在确认偏差。为缓解现有 LRIE 学习范式因缺乏反馈回路而产生的确认偏差，我们提出一种梯度模仿强化学习（GIRL）方法，鼓励伪标注数据模仿标注数据上的梯度下降方向，从而迫使伪标注数据获得类似于标注数据的更好优化能力。基于伪标注数据对从标注数据获得的有指导性的梯度下降方向的模仿程度，我们设计了一种奖励来量化模仿过程，并通过试错引导伪标注数据的优化能力。除学习范式外，GIRL 不限于特定子任务，我们利用 GIRL 在低资源设定（半监督 IE 和少样本 IE）下解决所有 IE 子任务（命名实体识别、关系抽取和事件抽取）。
引用
@article{arxiv.2211.06014,
title = {Gradient Imitation Reinforcement Learning for General Low-Resource Information Extraction},
author = {Xuming Hu and Shiao Meng and Chenwei Zhang and Xiangli Yang and Lijie Wen and Irwin King and Philip S. Yu},
journal= {arXiv preprint arXiv:2211.06014},
year = {2022}
}
备注
This work has been submitted to the IEEE for possible publication. This work is a substantially extended version of arXiv:2109.06415, with the summary of difference provided in the appendix