基于深度神经网络的文本中数学定义自动发现
计算与语言
2020-11-10 v1 信息检索
摘要
从文本中自动抽取定义是一项重要任务，在摘要、科学文本分析、自动分类体系生成、本体生成、概念识别与问答系统等若干自然语言处理领域具有众多应用。对于包含在单句内的定义，该问题可视为将句子二分类为定义句与非定义句。本文聚焦于数学文本中单句定义的自动检测，此类定义难以与周边文本区分。我们尝试了多种数据表示方式，包括句子句法结构与词嵌入，并应用卷积神经网络（CNN）与长短期记忆网络（LSTM）等深度学习方法以识别数学定义。实验表明，在句法增强的输入表示上应用 CNN 及其与 LSTM 的组合具有最优性能。我们还提出了一个用于数学文本定义抽取的新数据集，并证明该数据集有益于训练面向数学定义抽取的监督模型。跨领域实验表明，数学定义需要特殊处理，且跨领域学习对该任务效率低下。
引用
@article{arxiv.2011.04521,
title = {Automated Discovery of Mathematical Definitions in Text with Deep Neural Networks},
author = {Natalia Vanetik and Marina Litvak and Sergey Shevchuk and Lior Reznik},
journal= {arXiv preprint arXiv:2011.04521},
year = {2020}
}
备注
42 pages, 10 figures, currently under review in Expert Systems with Applications