中文

TopicEq:一种面向科学文本的主题与数学公式联合模型

信息检索 2019-04-29 v3 计算与语言 机器学习 机器学习

摘要

科学文献依赖数学与文本共同传达思想。受科学文本中数学方程与词语上下文之间主题对应关系的启发,我们提出一种新颖的主题模型,联合生成数学方程及其周边文本(TopicEq)。利用相关主题模型的扩展,上下文由潜在主题的混合生成,方程由依赖于潜在主题激活值的 RNN 生成。为实验该模型,我们构建了从 arXiv 各类科学文章中提取的 40 万方程-上下文对语料库,并采用变分自编码器方法拟合模型。实验结果表明,该联合模型显著优于现有的科学文本主题模型与方程模型。此外,我们定性地表明该模型有效捕捉了主题与数学之间的关系,实现了主题感知方程生成、方程主题推断以及主题感知的数学符号与词语对齐等新颖应用。

关键词

引用

@article{arxiv.1902.06034,
  title  = {TopicEq: A Joint Topic and Mathematical Equation Model for Scientific Texts},
  author = {Michihiro Yasunaga and John Lafferty},
  journal= {arXiv preprint arXiv:1902.06034},
  year   = {2019}
}

备注

AAAI 2019