教神经模块网络做算术
计算与语言
2022-10-07 v1
摘要
回答需要在原始文本上进行多步多类型推理(尤其是数值推理)的复杂问题是具有挑战性的。神经模块网络 (NMNs) 遵循程序员-解释器框架并设计可训练模块来学习不同推理技能。然而,NMNs 仅具备有限推理能力,且缺乏数值推理能力。我们通过以下方式升级 NMNs:(a) 缩小其解释器与复杂问题之间的差距;(b) 引入对数字执行数值推理的加法和减法模块。在 DROP 的一个子集上,实验结果表明,我们提出的方法通过 F1 分数 17.7% 的提升增强了 NMNs 的数值推理能力,并显著优于先前的最先进 (SOTA) 模型。
引用
@article{arxiv.2210.02703,
title = {Teaching Neural Module Networks to Do Arithmetic},
author = {Jiayi Chen and Xiao-Yu Guo and Yuan-Fang Li and Gholamreza Haffari},
journal= {arXiv preprint arXiv:2210.02703},
year = {2022}
}
备注
9 pages including appendix, camera-ready version of COLING 2022