Transformer 能在自然语言片段中进行推理吗？

Viktor Schlegel; Kamen V. Pavlov; Ian Pratt-Hartmann

Transformer 能在自然语言片段中进行推理吗？

计算与语言 2022-11-11 v1 人工智能

作者: Viktor Schlegel , Kamen V. Pavlov , Ian Pratt-Hartmann

摘要

基于深度学习的自然语言处理（NLP）最先进方法因具备使用自然语言文本进行推理的各种能力而受到赞誉。在本文中，我们开展了一项大规模实证研究，调查在自然语言受控片段中形式有效推理的检测，这些片段的可满足性问题变得日益复杂。我们发现，虽然基于 Transformer 的语言模型在这些场景中表现得出奇地好，但深入分析表明，它们似乎过拟合了数据中的表面模式，而不是掌握了支配这些片段推理的逻辑原则。

关键词

Transformer 自然语言推理逻辑推理可满足性语言模型

引用

@article{arxiv.2211.05417,
  title  = {Can Transformers Reason in Fragments of Natural Language?},
  author = {Viktor Schlegel and Kamen V. Pavlov and Ian Pratt-Hartmann},
  journal= {arXiv preprint arXiv:2211.05417},
  year   = {2022}
}

备注

Accepted to EMNLP 2022

Transformer 能在自然语言片段中进行推理吗？

摘要

关键词

引用

备注

相关论文