GNN 只是计数器？重访用于问答的 GNN
人工智能
2021-10-08 v1 计算与语言
摘要
问答（QA）一直是人工智能与自然语言处理领域的长期研究课题，已有大量研究试图赋予 QA 系统以人类水平的推理能力。为近似复杂的人类推理过程，最先进的 QA 系统通常使用预训练语言模型（LMs）来访问 LMs 中编码的知识，并结合基于图神经网络（GNNs）精心设计的模块在知识图谱（KGs）上执行推理。然而，关于这些基于 GNN 的模块的推理功能，许多问题仍待解答。这些基于 GNN 的模块真的能执行复杂推理过程吗？它们对于 QA 是过于简单还是过于复杂？为打开 GNN 的黑箱并探究这些问题，我们剖析了最先进的用于 QA 的 GNN 模块并分析其推理能力。我们发现，即便一个非常简单的图神经计数器，也能在 CommonsenseQA 和 OpenBookQA 这两个严重依赖知识感知推理的流行 QA 基准数据集上胜过所有现有 GNN 模块。我们的工作揭示，现有知识感知 GNN 模块可能仅执行诸如计数之类的简单推理。构建用于知识驱动 QA 的综合性推理模块仍是一个具有挑战性的开放问题。
引用
@article{arxiv.2110.03192,
title = {GNN is a Counter? Revisiting GNN for Question Answering},
author = {Kuan Wang and Yuyu Zhang and Diyi Yang and Le Song and Tao Qin},
journal= {arXiv preprint arXiv:2110.03192},
year = {2021}
}