通过因果干预消除远程监督命名实体识别的字典偏差
计算与语言
2021-06-18 v1
摘要
远程监督通过字典匹配自动生成训练实例,从而应对 NER 中的数据瓶颈。遗憾的是,DS-NER 的学习严重受字典偏差影响,其受制于伪相关,因而削弱了所学模型的有效性与鲁棒性。在本文中,我们通过结构因果模型(SCM)从根本上解释字典偏差,将偏差归类为字典内偏差与字典间偏差,并识别其成因。基于 SCM,我们通过因果干预学习去偏的 DS-NER。对于字典内偏差,我们进行后门调整以去除由字典混杂因子引入的伪相关。对于字典间偏差,我们提出一种因果不变性正则化器,使 DS-NER 模型对字典扰动更为鲁棒。在四个数据集与三个 DS-NER 模型上的实验表明,我们的方法能显著提升 DS-NER 的性能。
引用
@article{arxiv.2106.09233,
title = {De-biasing Distantly Supervised Named Entity Recognition via Causal Intervention},
author = {Wenkai Zhang and Hongyu Lin and Xianpei Han and Le Sun},
journal= {arXiv preprint arXiv:2106.09233},
year = {2021}
}
备注
Accepted to ACL2021(main conference)