用于因果句检测的迁移学习
计算与语言
2019-06-21 v2
摘要
我们考虑检测表达因果关系的句子这一任务,作为从文本中挖掘因果关系的一步。为了规避关系抽取数据集中因果实例稀缺的问题,我们利用迁移学习(即 ELMO 和 BERT),并以带自注意力的双向 GRU(BIGRUATT)作为基线。我们在通用公开关系抽取数据集和一个新的生物医学因果句检测数据集上进行了实验,其中一部分我们已公开。我们发现迁移学习仅在极小规模数据集中有帮助。在较大数据集下,BIGRUATT 达到性能瓶颈,此时更大的数据集和迁移学习均无帮助。
引用
@article{arxiv.1906.07544,
title = {Transfer Learning for Causal Sentence Detection},
author = {Manolis Kyriakakis and Ion Androutsopoulos and Joan Ginés i Ametllé and Artur Saudabayev},
journal= {arXiv preprint arXiv:1906.07544},
year = {2019}
}
备注
5 pages, short paper at BioNLP 2019 workshop