通过生成问题陈述的语言变体求解数学应用题
计算与语言
2023-06-27 v1 人工智能
摘要
数学推理艺术是智力进步的基本支柱,也是培育人类创造力的核心催化剂。研究者近期发表了大量围绕数学应用题(Math Word Problems, MWP)求解任务的工作——这是迈向通用 AI 的关键一步。这些现有模型易依赖浅层启发式与伪相关来推导解表达式。为改善此问题,本文提出一种基于生成问题文本语言变体的 MWP 求解器框架。该方法求解每个变体问题,并选取获多数票的预测表达式。我们使用 DeBERTa(Decoding-enhanced BERT with disentangled attention)作为编码器,以利用其丰富的文本表示与增强的掩码解码器来构建解表达式。此外,我们引入一个具有挑战性的数据集 ,由基准 数据集中选择性采样的 MWP 的改写、对抗与逆变换变体组成。我们使用若干基线 MWP 求解器模型在该数据集及其他基准数据集上进行了充分实验。我们表明,在问题陈述的语言变体上训练并对候选预测投票,可提升模型的数学推理能力与鲁棒性。我们公开了代码与数据。
引用
@article{arxiv.2306.13899,
title = {Math Word Problem Solving by Generating Linguistic Variants of Problem Statements},
author = {Syed Rifat Raiyan and Md. Nafis Faiyaz and Shah Md. Jawad Kabir and Mohsinul Kabir and Hasan Mahmud and Md Kamrul Hasan},
journal= {arXiv preprint arXiv:2306.13899},
year = {2023}
}
备注
Accepted in Proceedings of the 61st Annual Meeting of the Association for Computational Linguistics: Student Research Workshop (ACL-SRW 2023), 17 pages, 2 figures, 7 tables