中文

MathBridge:用于数学语音表达式转LaTeX公式以提升可读性的大规模语料数据集

机器学习 2024-08-19 v3 人工智能 计算与语言

摘要

提升文本类文档(如数学视频字幕)中数学表达式的可读性是一项重要任务。为实现这一目标,数学表达式应转换为编译后的公式。例如,自动语音识别得到的口语表达式"x equals minus b plus or minus the square root of b squared minus four a c, all over two a"(x等于负b加减b的平方减4ac的平方根,再除以2a),当以编译公式 x=b±b24ac2ax = \frac{-b \pm \sqrt{b^2 - 4ac}}{2a} 显示时更易于理解。要将数学口语句子转换为编译公式,需要两个过程:口语句子被转换为LaTeX公式,然后LaTeX公式被转换为编译公式。后者可以通过使用LaTeX引擎来完成。然而,前者无法有效实现。即使我们尝试使用语言模型来解决这个问题,也没有口语句子与LaTeX公式之间的配对数据来训练它。在本文中,我们引入了MathBridge,第一个用于将数学口语句子翻译成LaTeX公式的广泛数据集。MathBridge包含约2300万个LaTeX公式,与相应的数学口语句子配对。通过全面评估,包括使用所提数据进行微调,我们发现MathBridge显著提升了预训练语言模型从数学口语句子转换为LaTeX公式的能力。具体而言,对于T5-large模型,sacreBLEU分数从4.77提高到46.8,展示了显著提升。

关键词

引用

@article{arxiv.2408.07081,
  title  = {MathBridge: A Large Corpus Dataset for Translating Spoken Mathematical Expressions into $LaTeX$ Formulas for Improved Readability},
  author = {Kyudan Jung and Sieun Hyeon and Jeong Youn Kwon and Nam-Joon Kim and Hyun Gon Ryu and Hyuk-Jae Lee and Jaeyoung Do},
  journal= {arXiv preprint arXiv:2408.07081},
  year   = {2024}
}

备注

9 pages, 6 figures