改进神经数学应用题求解器的技术
计算与语言
2023-02-08 v1 符号计算
摘要
开发自动数学应用题（MWP）求解器是一项艰巨任务，要求具备对自然语言的理解与数学推理能力。近期基于神经网络的方法主要使用语言模型对问题文本编码，并迭代解码出关于数量与算子的数学表达式。注意到 MWP 的问题文本由上下文部分与提问部分组成，近期一项工作发现这些神经求解器可能仅在上下文文本与标准表达式间进行浅层模式匹配，提问文本未被充分利用。同时，现有解码过程未能将数学定律纳入设计，导致数学等价表达式的表示各不相同。为解决这两个问题，我们提出一种充分利用提问文本并保持逐步交换律的新编码器-解码器架构。除生成数量嵌入外，我们的编码器进一步编码提问文本并用其引导解码过程。在每一步，我们的解码器使用 Deep Sets 计算表达式表示，使这些嵌入在数量任意排列下保持不变。在四个既定基准上的实验表明，我们的框架优于最先进的神经 MWP 求解器，显示了我们所提技术的有效性。我们还对结果进行了详细分析以展示方法的局限，并进一步探讨潜在未来工作。代码见 https://github.com/sophistz/Question-Aware-Deductive-MWP。
引用
@article{arxiv.2302.03145,
title = {Techniques to Improve Neural Math Word Problem Solvers},
author = {Youyuan Zhang},
journal= {arXiv preprint arXiv:2302.03145},
year = {2023}
}