分解神经 NLI 中的自然逻辑推理
计算与语言
2023-11-09 v2
摘要
为解释神经自然语言推理（NLI）模型及其推理策略，我们开展了一项系统性探测研究，考察这些模型是否捕捉了自然逻辑的核心语义特征：单调性与概念包含。在下向单调语境中正确识别有效推理是 NLI 性能的已知障碍，其涵盖了否定辖域与广义量词等语言现象。为理解该困难，我们将单调性强调为语境的一种属性，并考察模型在决策过程中间层上下文嵌入中捕捉单调性信息的程度。借助近期探测范式进展，我们比较了不同模型中单调性特征的存在情况。我们发现，在基准上取得高分的流行 NLI 模型表示中单调性信息明显薄弱，并观察到此前基于微调策略对这些模型的改进，在挑战集性能提升的同时引入了更强的单调性特征。
引用
@article{arxiv.2112.08289,
title = {Decomposing Natural Logic Inferences in Neural NLI},
author = {Julia Rozanova and Deborah Ferreira and Marco Valentino and Mokanrarangan Thayaparan and Andre Freitas},
journal= {arXiv preprint arXiv:2112.08289},
year = {2023}
}