带辅助任务的数学应用题神经-符号求解器
计算与语言
2021-07-06 v1
摘要
以往遵循编码器-解码器范式的数学应用题求解器未能显式融入必要的数学符号约束，导致不可解释且不合理的预测。为此，我们提出神经-符号求解器（NS-Solver），通过辅助任务显式且无缝地融入不同层级的符号约束。我们的 NS-Solver 由用于编码问题的问题读取器、用于生成符号方程的程序生成器，以及用于获得答案的符号执行器组成。除目标表达式监督外，我们的求解器还通过 4 个新辅助目标进行优化以强化不同的符号推理：a) 自监督数字预测任务，预测数字数量与数字位置；b) 常识常量预测任务，预测需要何种先验知识（例如鸡有几条腿）；c) 程序一致性检查器，计算预测方程与目标方程之间的语义损失以确保合理的方程映射；d) 对偶利用任务，利用符号方程生成与问题词性生成之间的准对偶性来增强求解器的理解能力。此外，为开发通用且可扩展的求解器提供更真实且更具挑战性的基准，我们还构建了包含 4 类数学应用题（算术、一元线性、一元非线性、方程组）且样本量超过 17K 的新大规模 MWP 基准 CM17K。在 Math23K 与我们的 CM17K 上的大量实验证明了我们的 NS-Solver 相较于 SOTA 方法的优越性。
引用
@article{arxiv.2107.01431,
title = {Neural-Symbolic Solver for Math Word Problems with Auxiliary Tasks},
author = {Jinghui Qin and Xiaodan Liang and Yining Hong and Jianheng Tang and Liang Lin},
journal= {arXiv preprint arXiv:2107.01431},
year = {2021}
}
备注
ACL 2021