面向低资源关系提取的梯度模仿强化学习方法
计算与语言
2021-09-15 v1 人工智能
摘要
低资源关系提取（LRE）旨在人类标注稀缺时从有限的标注语料中抽取关系事实。现有工作要么利用自训练方案生成伪标签，这会导致逐渐漂移问题，要么采用元学习方案，其未显式地获取反馈。为缓解现有 LRE 学习范式因缺乏反馈回路而产生的选择偏差，我们提出了一种梯度模仿强化学习方法，鼓励伪标签数据模仿标注数据上的梯度下降方向，并通过试错引导其优化能力。我们还提出了一个名为 GradLRE 的框架，处理低资源关系提取中的两种主要场景。除未标注数据充足的场景外，GradLRE 通过利用上下文增强方法生成数据，处理无可用未标注数据的情形。在两个公开数据集上的实验结果证明了 GradLRE 相比于基线方法在低资源关系提取上的有效性。
引用
@article{arxiv.2109.06415,
title = {Gradient Imitation Reinforcement Learning for Low Resource Relation Extraction},
author = {Xuming Hu and Chenwei Zhang and Yawen Yang and Xiaohe Li and Li Lin and Lijie Wen and Philip S. Yu},
journal= {arXiv preprint arXiv:2109.06415},
year = {2021}
}
备注
In EMNLP 2021 as a long paper. Code and data available at https://github.com/THU-BPM/GradLRE