蕴含语义可从理想语言模型中提取

语言模型通常仅在文本上训练，无需额外接地。关于仅从此类过程能推断出多少自然语言语义存在争议。我们证明，在训练句子由格赖斯主体（即遵循语用学语言理论中的基本交际原则的主体）生成的假设下，句子间的蕴含判断可从已完美学习其目标分布的理想语言模型中提取。我们还表明，蕴含判断可从在此类格赖斯数据上训练的语言模型的预测中解码。我们的结果揭示了一条理解无标注语言数据中编码的语义信息的途径，以及从语言模型提取语义的潜在框架。