大猩猩能骑骆驼吗？从文本中学习语义合理性

对语义合理性的建模需要关于世界的常识知识，并已被用作探索各种知识表示的测试平台。先前工作专门聚焦于对物理合理性的建模，并表明在受监督设定下分布式方法会失效。与此同时，分布式模型（即大型预训练语言模型）在许多自然语言理解任务上带来了改进的结果。在本工作中，我们表明这些预训练语言模型事实上在受监督设定下对物理合理性建模是有效的。因此我们提出从文本直接学习对物理合理性建模这一更困难的问题。我们通过从大型语料库中抽取已证实事件来创建训练集，并为以自监督方式在这些已证实事件上训练并在物理合理性任务上测试提供基线。我们认为，通过将显式常识知识注入分布式模型，结果可进一步改进。