一种用于自然语言理解的神经-符号方法
计算与语言
2022-10-24 v2
摘要
深度神经网络借助预训练语言模型，在自然语言理解（NLU）任务中取得了显著成果。然而，当需要逻辑推理时，其性能可能急剧恶化。这是因为NLU原则上不仅依赖深度神经网络擅长的类比推理，也依赖逻辑推理。根据双过程理论，类比推理与逻辑推理分别由人脑中的系统1与系统2执行。受该理论启发，我们提出一种称为神经-符号处理器（NSP）的NLU新框架，其基于神经处理执行类比推理，并基于神经与符号处理执行逻辑推理。作为案例研究，我们在需要数值推理（一种逻辑推理）的两个NLU任务——问答（QA）与自然语言推断（NLI）上开展实验。实验结果表明，我们的方法在两项任务上均显著优于SOTA方法。
引用
@article{arxiv.2203.10557,
title = {A Neural-Symbolic Approach to Natural Language Understanding},
author = {Zhixuan Liu and Zihao Wang and Yuan Lin and Hang Li},
journal= {arXiv preprint arXiv:2203.10557},
year = {2022}
}