借助生成语境寻找无意义之物的意义：来自人类与语言模型的视角

无意义和异常变体句子一直是语义解释计算模型发展中的重要工具。核心挑战在于区分“仅因缺乏支持语境而显得异常（但可被解释）”与“真正无意义”。然而，尚不清楰 (a) 现有数据集中何种句子是无意义的，而何种仅显得异常；以及 (b) 大语言模型能否做出这一区分。在本文中，我们通过收集来自人类评审者和大语言模型（LLMs）的对五个语义偏离数据集中句子的 sensicality 判断（分别在无语境和提供语境的情况下），来回答这两个问题。我们发现，评审者大多认为大多数句子至多仅显得异常，只有少数被视为真正无意义。我们还展示了 LLMs 在生成对异常情况合理语境方面具有相当的技能。