基于BERT-CRF模型在小规模化学语料上迁移学习抽取科学数据链
计算与语言
2019-05-15 v1 数字图书馆
摘要
近年来,由于人工智能的快速增长与突破,计算化学快速发展。得益于自然语言处理的进展,研究者可从出版物中提取更细粒度的知识以促进计算化学发展。尽管化学实体抽取的工作与语料多局限于生物医学或生命科学领域而非化学领域,我们构建了一个化学键领域的新语料,标注了7类实体:化合物、溶剂、方法、键、反应、pKa及pKa值。本文提出一种新颖的BERT-CRF模型,通过从出版物中抽取7类化学实体及关系来构建科学化学数据链。并且我们提出一个联合模型同时抽取实体与关系。在我们化学专业语料上的实验结果表明,我们取得了最先进且具有竞争力的命名实体识别性能。
引用
@article{arxiv.1905.05615,
title = {Transfer Learning for Scientific Data Chain Extraction in Small Chemical Corpus with BERT-CRF Model},
author = {Na Pang and Li Qian and Weimin Lyu and Jin-Dong Yang},
journal= {arXiv preprint arXiv:1905.05615},
year = {2019}
}